CVPR2020 workshop-1200X1600速度可达69FPS,实时图像去雾算法DMPHN

论文借鉴了之前Denosing算法的结构,实现了实时图像去雾模型。论文中有意思的一点,AAAI2020的SOTA算法FFA-Net在真实场景中完全失效。这已经不是该论文第一次被质疑了,现在看起来,FFA-Net的网络深度和注意力像是在RESIDE数据集上过拟合的表现,真实场景中应用没有价值。

在这里插入图片描述

Abstract:

最近,基于CNN的端到端深度学习方法在图像去雾方面取得了优势,但在非均匀去雾中却往往会严重失效。 除此之外,现有流行的多尺度方法耗时且内存效率低下。 在这种情况下,我们提出了一种快速的深层多块分层网络,该方法通过聚合来自雾状图像不同空间部分的多个图像块中的特征(具有较少的网络参数)来还原非均匀的雾状图像。 我们提出的方法对于具有各种密度的场景的雾霾或雾的不同环境非常鲁棒。由于模型的总大小约为21.7 MB,并且非常轻巧。 与当前的多尺度方法相比,它还提供了更快的运行时间,在处理1200x1600 HD品质的图像下,平均运行时间为0.0145s。 最后,我们展示了该网络在Dense Haze Removal上优于其他最新模型的优势。

Introduction:

在这里插入图片描述
上图所示为非均匀分布的雾霾图像。虽然现有的深度学习方法促进了图像去雾任务的发展,但是在非均匀分布场景下的效果很差。去雾模型应该更加努力地处理不同场景深度之间的不均匀雾度和不同退化模式。现有的多尺度和尺度递归模型可以解决此类问题,因为它通过对来自不同空间尺度的特征进行分层集成而实现了从粗到精的学习方案。由于高运行时间和大量卷积和反卷积层,因此模型规模大,这种方法效率低下。除此之外,在精细比例级别上增加图层的深度可能并不总是会改善输出去雾图像的感知质量。

本文模型的主要目标是聚合来自图像不同空间部分的多个图像块,以获得更好的性能。由于模型中的残差连接,编码器和解码器的参数非常少,这有助于快速进行去雾推断。想法的主要直觉是通过从较细的网格中提取局部特征,使较低层的网络部分专注于局部信息,从而为网络的较高层部分生成残差信息,从而从较细和较粗的网格中获取更多的全局信息,从而通过级联卷积特征来实现。

总结:为了处理非均匀分布的雾霾图像,本文提出了深度多块分层网络(DMPHN)与深度多尺度分层网络(DMSHN)两种解决方案,可以取得快速处理的效果。并且通过相关实验对比了两种网络的性能。

Method:

主要包含了Multi-patch 和 Multi-scale两种方案的去雾方法,具体如下:

A.Multi-patch Architecture (DMPHN)
在这里插入图片描述
如上图所示,DMPHN是一种多层体系结构。总归包括3个级别,每个级别对应的图像分块数不一样。从底往上来看,分别为4-2-1。

具体操作:
1)对输入图像按照水平竖直分成4个patches,分别送入Encoder-3,得到4个特征图。按照竖直方向对特征进行拼接得到两个特征F3-1,F3-2。再经过Decoder3,得到两个输出结果03-1,03-2;

2)对输入图像按照竖直方向分成2个patches,与1)中输出的03-1,03-2对应相加。然后分别送入Encoder2得到两个特征,与1)中拼接得到的F3-1,F3-2进行元素相加,再对两个特征拼接。送入Decoder2得到输出结果02-1;

3)重复2)中操作。

B.Multi-scale Architecture(DMSHN)

在这里插入图片描述
结构与DMPHN相似,也是包含3个级别的编码器解码器结构。主要区别是:
1)DMPHN采用输入图像分块策略,DMSHN采用对尺度策略,分别采用1,0.5,0.25的输入尺度;
2)DMPHN中的不同级之间的相加,在DMSHN中采用上采样然后相加的操作。

C.Encoder and Decoder Architecture
在这里插入图片描述
在DMPHN和DMSHN的所有级别上使用相同的编码器和解码器体系结构。 编码器由15个卷积层,6个残差连接和6个ReLU单元组成。 解码器和编码器中的各层相似,不同之处在于将2个卷积层替换为转置卷积层以生成清晰图像作为输出。

D.Loss functions
在这里插入图片描述
总损失包含了Reconstruction loss,Perceptual loss与Total Variation(TV) loss。

Experiments:

1.NH-HAZE:(FFA-Net在真实场景中完全失效)
在这里插入图片描述
在这里插入图片描述
2.NTIRE 2020 challenge:速度很快
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/weixin_42096202/article/details/106870899