关于1x1卷积(AKA网络中的网络)

首先channel(信道)为1的1x1卷积过滤器就相当于给输入矩阵乘以一个常数。

其次channel不为1的过滤器的卷积操作如下图所示:(图中卷积过滤器channel=32)


计算左图中的32个数和过滤器的32个数的元素级乘积,然后应用Relu激活函数后相加,得到一个实数后输出到绿点位置。

13931179-876f7a68df1bbbac.png
1x1卷积的分解

这个1x1x32卷积可以理解为一个神经元的输入是32个数字(即输入切片中的32个数字这32个数字具有不同channel,乘以32个权重(即过滤器中的32个数)后应用Relu激活再输出结果到黄点,如下图所示。

13931179-9bc2734b12d28873.png
类比为全连接网络原理


更进一步,如果过滤器的数量不止一个,那么最终输出的channel就等于1x1过滤器个数,如下图所示(#filters指过滤器个数)1x1卷积可以理解为在一个切片(图示黄条)的32个元素都应用了数个全连接网络,然后在36个单元上重复这个过程。这也是1x1卷积叫做网络中的网络(Network in network)的原因。

13931179-c6836d8249c35932.png


1x1卷积的作用

图示全连接网络的作用是输入32个数字,输出过滤器数量个数字。(it inputs 32 numbers,and outputs number of fliters outputs)

即通过“过滤器个数”改变(增加或减少)输入矩阵的channel数,如下图

13931179-2069b956cfff7377.png
改变输入的channel数

猜你喜欢

转载自blog.csdn.net/weixin_33851604/article/details/86781386