Robust Multi-Exposure Image Fusion:A Structural Patch Decomposition Approach

  本文主要介绍了通过结构化块分解方法(SPD)来处理多曝光图像融合(MEF),最终起到对重影现象(ghosting effect)鲁棒的效果。

  SPD-MEF的主要思想是:将图像块解构为三个概念独立的部分,信号强度(signal strength)、信号结构(signal structure)、平均强度(mean intensity),分别进行融合处理后再还原到融合图像中。

  Multi-exposure image fusion(MEF)提供了一种经济高效的方式来克服HDR成像与LDR显示之间的矛盾,将具有不同曝光度层次的源图像序列作为输入,生成一张比任何输入图像具有更多信息且感官上更具吸引力的图像。相比于HDR reconstruction在辐射域上实现的,MEF在强度域上工作。而在重影问题上,许多已有的算法都有高强度的计算负担,这对于移动设备来说是难以承担的,因此本文提出SPD-MEF这一简单而鲁棒的方式来解决在计算和重影上面对的问题。

  SPD-MEF的一个特点是在图像块(image patches)上进行操作而不像在很多文献中的MEF方法常用到的像素级(pixel-wise)处理。

  SPD-MEF首先将图像块解构为三个概念独立的部分,信号强度(signal strength)、信号结构(signal structure)、平均强度(mean intensity),然后基于块强度(patch strength)、曝光度(exposedness)和结构一致性(structural consistensy)的方法分别进行处理。这种新颖的分解方式给融合过程带来了很多好处:

  ①由SPD-MEF产生的权重映射是无噪的。因此不需要后续处理步骤来改善感官质量或是抑制空间伪影;

  ②SPD-MEF联合处理图像块的RGB三个通道,从而更加自然地利用了色彩信息;

  ③信号结构成分的方向信息能使我们更容易观察到多曝光图像块的结构一致性,从而可以生成重影少的高质量融合图像。

  与之前阅读的DeepFuse文章中一样,baseline SPD-MEF也是将图像块表示为xk=ck*sk+lk,但在本文中各字母代表的含义有所不同,c表示信号强度,s表示信号结构,l表示平均强度。其中c和s的计算方式与DF相同,而l在本文中并没有被省略掉,以加权归一的形式来计算。由于xk的构建方式,色彩对比度和结构都被考虑在内了,因而SPD-MEF更加青睐包含强烈色彩信息的图像而不是由于曝光不足或是曝光过度的带灰色的图片。

  

  基于以上,文章开始介绍Robust SPD-MEF应用到动态场景中的策略。在本文中,先通过执行SIFT匹配,然后从匹配点以21范数损失(对不匹配点鲁棒且可以用迭代重新加权的最小二乘有效解决)来计算仿射变换矩阵。如果输入有三张图片,那么SPD-MEF选择正常曝光的图片作为参考,否则选择有最小曝光不足或过度曝光的图片作为参考。

  通过结构向量sk来检测不一致运动:

  ①引入ρk来表征目标图像和参考图像之间的一致性,由于sk由均值去除和强度归一化得到,因此它对于曝光度和对比度变化是鲁棒的。再加上ρk中ε的引入,又能够保证对传感器噪声的结构一致性。

  

  ②通过阈值,将ρk映射为二值的Bk1来弃掉不一致的图像块。利用IMF(在任意两幅曝光图像的强度值之间进行映射,是一种非迭代的方法,对摄像机运动鲁棒且可以通过直方图匹配有效实现)将参考图像的强度值映射到其他图像中并计算同一块位置的绝对平均强度差,再通过阈值映射得到二值的Bk2,最后将Bk=Bk1·Bk2并入到baseline SPD-MEF中。

  ③对于被Bk所拒绝的图像,通过选择由IMF生成的潜影中相应的块并用同样的融合方式处理来补偿它们。这样做能够避免显式的运动估计,从而可以在原始图像中找到可能具有不同强度、方向和比例的相应色块,从而节省了大量的运算量。此外,还能调整参考图像中运动物体的平均强度,使其适应周围环境,从而更便利地避免突发的强度变化。

  

  文章接下来通过实验将提出的SPD-MEF与现有的MEF算法以及去重影算法在处理效果和计算复杂度、计算时间上进行了比较,从处理效果上来看SPD-MEF优势很大,而实际的计算复杂度也不高。在对图像处理的效果的评价上,本文也是使用的与DF模型中一样的MEF-SSIM方法。

  但是SPD-MEF也存在一些限制:

  ①在比较尖锐的图像边缘会产生一些光影,这是由于计算l的平均强度权重可能无法在强边缘附近的曝光之间创建足够平滑的过渡。

  →可以通过添加额外的鼓励将相邻曝光图像的平均强度用于融合的约束来减少伪影 或 将SPD-MEF扩展到多尺度上(已用于减少HDR成像和MEF中的光晕伪影)。

  ②与许多HDR重建和MEF方法一样,参考图像的选择对于SPD-MEF提供的满意的去重影效果很重要。在某些极端情况下,参考图像中运动对象曝光不足或曝光过度,因此无法从IMF或者其他的曝光图像中正确推断出其结构。

  →某些图像修复之类的创新方法可能会有用。

  总而言之,SPD-MEF通过将彩色图像块分解为三个不同的部分并对其分别处理,从而在融合的过程中达到了在权重映射中几乎不产生噪声,同时更好地利用了图像的色彩信息的效果。并且,利用结构向量的方向信息,在去重影的表现上也很可靠。实验结果证明,SPD-MEF在产生的MEF图像的过程中,不仅细节清晰、色彩外观生动、几乎没有重影,并且还保持着可控的计算代价。

  而在文章最后,除了思考能否将SPD应用到图像处理的其他领域,作者还提到了,尽管对于MEF的客观质量评价模型正在出现,但是对于客观比较MEF动态场景的评估模型还十分匮乏,这也是亟待解决的一个问题。

猜你喜欢

转载自www.cnblogs.com/rainton-z/p/11677729.html
今日推荐