写的很清楚,Group Convolution分组卷积,以及Depthwise Convolution和Global Depthwise Convolution Group Convolution分组卷积,以及Depthwise Convolution和Global Depthwise Convolution

https://blog.csdn.net/blogshinelee/article/details/86094419#Group_Convolution_17 源地址

Group Convolution分组卷积,以及Depthwise Convolution和Global Depthwise Convolution

写在前面

Group Convolution分组卷积,最早见于AlexNet——2012年Imagenet的冠军方法,Group Convolution被用来切分网络,使其在2个GPU上并行运行,AlexNet网络结构如下:

AlexNet

Convolution VS Group Convolution

在介绍Group Convolution前,先回顾下常规卷积是怎么做的,具体可以参见博文《卷积神经网络之卷积计算、作用与思想》。如果输入feature map尺寸为 C H W C H W C H W C∗H∗WC∗H∗W C*H*W C的向量,此时称之为Global Depthwise Convolution(GDC),见MobileFaceNet,可以看成是全局加权池化,与 Global Average Pooling(GAP) 的不同之处在于,GDC 给每个位置赋予了可学习的权重(对于已对齐的图像这很有效,比如人脸,中心位置和边界位置的权重自然应该不同),而GAP每个位置的权重相同,全局取个平均,如下图所示:

global average pooling

以上。

参考

        </div>
					<link href="https://csdnimg.cn/release/phoenix/mdeditor/markdown_views-258a4616f7.css" rel="stylesheet">
                  </div>
</article>

猜你喜欢

转载自blog.csdn.net/m0_37192554/article/details/88972095