参考资料:https://blog.csdn.net/xbinworld/article/details/69367281
https://blog.csdn.net/zhangjunhit/article/details/67638559
本文可以看做是对 Spatial Transformer Networks 工作的深入,通过 deformable convolution 和 deformable RoI pooling提升当前CNN网络的空间信息建模能力。
Spatial Transformer Networks建立的是 global、sparse transformation ,本文的Deformable Convolutional Networks建立的是 local and dense transformation
2.1. Deformable Convolution
如上图,(a)是常规的一个3*3卷积窗口,(b)蓝色点就是原来的卷积窗口加上了一个offset的情况,(c)表示可以对进行窗口进行scale和aspect ratio的变换,(d)表示旋转;
上图显示可变形卷积可以提高模型对 scale, aspect ratio and rotation 等映射的泛化能力。
卷积该具体怎么deformable,这个可以通过一个卷积层来学习,如下图所示
从公式层面来说:一般的卷积可以定义如下式:
对于可变形卷积定义如下:
这个 offset ∆p n 通过卷积网络学习得到
传统卷积和可变形卷积的对比:
2.2. Deformable RoI Pooling
标准的 RoI pooling 模块将一个任意尺寸的输入矩形框特征转换到固定尺寸的特征。它主要用于基于候选区域的目标检测算法中。
pooling operation 可以如下式定义:
deformable RoI pooling 定义如下:
这个 offsets 通过一个全链接层学习