MEF:COA-NET

2023-11-20

COA-NET: COLLABORATIVE ATTENTION NETWORK FOR DETAIL-REFINEMENT MULTI-EXPOSURE IMAGE FUSION

(COA-NET: 用于细节细化多曝光图像融合的协作关注网络)

近年来,多曝光图像融合 (MEF) 在计算机视觉领域引起了广泛的兴趣。之前的方法试图设计各种注意力模块,这些模块在融合过程中忽略多尺度视觉特征和信息退化,从而导致细节丢失和融合结果上的颜色失真。在本文中,我们提出了一种称为COA-NET的协作注意力网络,以端到端的方式处理MEF任务。具体而言,作为我们的骨干,多维关注模块(Multi-dimensioned attention module)学习了不同维度上的精细结构特征。此外,在COA-NET中嵌入了补偿注意模块,以实现并行特征更新并补偿退化的深度特征。通过两个模块的协作,我们的COA-NET生成了融合了精细的结构和忠实的细节。

介绍

MEF的关键问题是从曝光不足/曝光过度的图像中获取突出的特征和典型像素以强调重要区域。传统的手动设计MEF方法在忽略通道特征的同时,努力处理像素级色彩优化,从而导致关键信息丢失,例如伪影或色彩失真。近年来,卷积中立网络 (CNN) 已广泛应用于处理MEF任务。例如,DeepFuse ,DenseFuse 在解决照明和颜色偏差方面取得了突破,并提供了最先进的性能。开发注意力引导网络还可以优化培训效率,因为它更多地关注典型特征并简化了网络结构。SENet 是一个使用MEF的通道注意力的微小且快速的注意力模块,但是它会丢失一些空间信息。BAM 和CBAM 增加了空间关注,以使特征积累更丰富,但它们缺乏长期依赖和特征水平。

综上,我们提出了一个协作关注网络,用于HDR成像的细节细化多曝光图像融合 (COA-NET)。它使用具有各种维度的卷积内核的、倍增的分层注意机制来积累更多的通道信息。我们还添加了一个互补注意模块来丰富空间特征,这样它就可以在融合结果和地面真相之间取得令人钦佩的高度相似性。图1给出了典型的融合结果。
请添加图片描述
贡献:
• 建立了一个有效的注意力引导深度网络,以突出地优化MEF任务,主要模块获取输入图像的主要特征并补偿模块累积微小空间信息。
• 我们的COA-NET关注通道的长期依赖性,并丰富像素和颜色信息,以减少晕,出乎意料的阴影,并且比以前的试验提供了更多的视觉友好性能。
• 我们扩展了获取多维通道功能的想法,这些功能保留了更多感兴趣的视觉信息并提供了出色的设备。

方法

整体框架图:
请添加图片描述
请添加图片描述

Multi-dimensioned attention module

在多维注意模块 (MAM) 中,我们构建了基于SE块的多特征提取结构,以探索更长距离的依赖关系和通道之间的复杂关系。输入图像经过三个不同的卷积层,内核大小为3x3、5x5和7x7。然后将它们发送到轻型模块SE块。SE块提出了挤压和激励操作,以显式构造通道的依赖性。将单独的池化层放置在卷积块的同一级别。这里放大了特征图的感受域,以捕捉微小的细节。在其上采样操作之后,所有四个特征部分都被组合成一个具有丰富多样信息的128通道特征图。在生成的HDR图像中避免了由于颜色偏差引起的照明失真 。

请添加图片描述

Compensate attention module

目前,网络能够取得令人满意的结果,空间特征被认为是至关重要的方面,以便专注于实际信息部分并促进更高水平的完整性。补偿注意模块 (CAM) 的通道池为输入图像的每个像素生成唯一的特征权重图。然后应用地图来加强感兴趣的眼部区域。
请添加图片描述

Fusion Process

给定曝光不足/曝光过度的3通道LDR图像I1,I2,主要是它们通过MAM产生未处理的注意力图。然后确定卷积层和重新层以进一步处理注意力图。则满足的融合结果可以计算如下:
请添加图片描述

Loss Functions

我们以分层的方式使用三种损失函数来减少形状为C ∗ H ∗ W的融合结果与地面真相之间的损失,并优化我们的网络。
请添加图片描述

根据理论,感知损失衡量图像之间的高级感知和语义差异。它将通过对地面真相的卷积获得的特征与通过对生成的图像进行卷积获得的特征进行比较,以使内容和全局结构接近。其中 φ j(x) 表示第j层的损失网络 φ 的激活,特征重建损失如下:
请添加图片描述
最后,我们设计以下表达式以平衡训练速度和融合视觉效果。
l = 0.05 * lper+ 0.95 * lMSE三个损失函数的对比实验结果将在实验部分给出。

FCAN相关

本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系:hwhale#tublm.com(使用前将#替换为@)

MEF:COA-NET 的相关文章

随机推荐

  • flutter 安卓打包出现:Transform‘s input file does not exist:

    我的版本 Android studio 4 0 targetSdkVersion 30 出现了这个问题 解决方案 在你的build gradle文件里面添加一句话就可以了 android studio 4 0 以上打包会出现这个问题 lin
  • 工业安全生产信息化平台的基本架构和关键功能分享

    工业安全生产信息化平台是指利用信息技术手段 将工业安全生产管理与数据采集 传输 处理相结合 实现对工业安全生产全过程的数字化 信息化 智能化管理的平台 它通过集成多种信息系统和设备 实现对重大危险源监控预警 安全风险分级管控 安全生产一张图
  • SpringBoot统一异常拦截处理

    前言 大家你好 这是我的第一篇博客 我会把我所学所悟的知识以最简单的语言描述清楚 让大家通俗易懂 正文 下面我要对springboot 1 5 8 RELEASE 中异常拦截处理进行讲解 项目中我们是一定要碰到的情况就是无论在控制层 业务层
  • 安卓平台下ARM Mali OpenCL编程-GPU信息检测

    对于ARM Mali GPU 目前是支持OpenCL1 1 所以我们可以利用OpenCL来加速我们的计算 一直以来 对于Mali GPU的OpenCL编程 一直没有环境来测试 好不容易弄到一个华为Mate7 却因为华为没有提供OpenCL
  • C#__分析使用Winform开发坦克大战

    窗口 using System using System Collections Generic using System ComponentModel using System Data using System Drawing usin
  • python梯度提升回归树_梯度提升回归树(GBDT)

    梯度提升回归树 GBDT 发布时间 2018 08 30 13 22 浏览次数 1024 标签 GBDT 一 从Boosting思想开始 1 梯度提升回归树是一种从它的错误中进行学习的技术 它本质上就是集思广益 集成一堆较差的学习算法进行学
  • 记录一下实验室的GPU信息

    通过如下查询指令 cd usr local cuda samples 1 Utilities deviceQuery sudo make deviceQuery 最终得到如下信息 Detected 1 CUDA Capable device
  • C# Socket连接请求超时处理

    在Socket的超时时间默认20多秒 而实际连上不需1秒时间 20多秒很多时候用户是不能接受的 而在等待返回结果的这段时间里程序会处于停止响应状态 废话不多说了 先上代码 private delegate string ConnectSoc
  • shell入门学习-位置变量

    1 位置变量定义 在执行脚本或命令时 传递给脚本或命令的参数 2 位置变量demo效果如下图 3 1 sh脚本如下 4 注意 如果脚本后面不输入任何参数 如下图所示 如果脚本后面只添加1个数据 如下图所示 如果脚本后面的参数超过脚本定义的位
  • 解决Review Manager(RM)很卡的方法(方法来源网络)

    1 断网 禁用网络连接 拔网线等均行 看你喜欢 2 利用Windows Win10 自带防火墙程序禁止RM联网 控制面板 网络和internet 系统和安全 windows defender防火墙 高级设置 出站规则 新建规则 下一步 此程
  • jquery的ajax获取后台数据

    前言 这里获取了小米商城的一个后台地址 效果图 源码 div p 后台拿到的总数 span style color red font size 18px span p hr ul ul div
  • 基础知识十一、Python解析网络报文之TCP首部报文解析

    文章目录 一 TCP首部解析器的实现 二 测试逻辑 上一节解析了 IP首部报文后 本节继续解析TCP报文首部 TCP协议处于OSI七层模型的传输层 传输层的作用就是负责管理端到端的通信连接问题 连续ARQ automatic repeat
  • 初始泛型类

    泛型的顶级理解 一 包装类 1 基本数据类型和对应的包装类 2 装箱和拆箱 3 自动装箱和拆箱 二 泛型 1 语法 2 泛型类的使用 3 示例 4 擦除机制 5 泛型上界 6 示例和复杂示例 7 泛型方法 一 包装类 在Java中 由于基本
  • JAVA 【爬虫】 Selenium 无头浏览,禁止加载图片,启动参数,失效,无效

    JAVA Selenium 无头浏览 禁止加载图片 启动参数 失效 无效 可能有如下几个原因 代码问题 命令参数写错 无头浏览 headless 禁止加载图片 blink settings imagesEnabled false Chrom
  • DS1302芯片介绍

    低功耗时钟芯片DS1302可以对年 月 日 时 分 秒进行计时 且具有闰年补偿等多种功能 DS1302的性能特性 实时时钟 可对秒 分 时 日 周 月以及带闰年补偿的年进行计数 用于高速数据暂存的31 8位RAM 最少引脚的串行I O 2
  • MySQL安装与使用(Windows)

    Windows平台提供了两种安装MySQL的方式 1 图形化安装 msi安装文件 链接 link 2 免安装 zip压缩文件 链接 link 安装MySQL 一 图形化安装 1 双击下载的 MySQL 安装文件 进入 MySQL 安装界面
  • Socket编程中的强制关闭与优雅关闭及相关socket选项

    以下描述主要是针对windows平台下的TCP socket而言 首先需要区分一下关闭socket和关闭TCP连接的区别 关闭TCP连接是指TCP协议层的东西 就是两个TCP端之间交换了一些协议包 FIN RST等 具体的交换过程可以看TC
  • 虚拟机三种网络模式

    基本知识 ipconfig查看信息 网关 Gateway 又称网间连接器 协议转换器 是你连接到的上层节点的地址 ip地址是你本身的地址 如果是路由器分配的 那么是路由器所构建的内网地址 网卡 需要网卡才能连接其他设备 是设备端的 交换机
  • vscode+phpstudy配置php环境

    1 先打开phpstudy 将WAMP启动 2 点击左侧的软件管理 随便选一个版本的php安装 我这里下的是5 3 29版本的 3 点击上面的系统环境 找到刚刚安装好的php 进入设置 点击扩展选项 将XDebug调试组件打开 并记下端口
  • MEF:COA-NET

    COA NET COLLABORATIVE ATTENTION NETWORK FOR DETAIL REFINEMENT MULTI EXPOSURE IMAGE FUSION COA NET 用于细节细化多曝光图像融合的协作关注网络 近