一个有趣的问题:卷积和池化能否相互代替?

本文来自公众号“AI大道理”

卷积和池化层在神经网络中非常常见。

正因为习以为常,所以容易让人误以为是必不可少的。

那么卷积能代替池化吗?

池化又能否代替卷积呢?

要想回答这个问题,必须深究其本质,才能看清楚他们是否不可获取,以及缺了会怎么样。

1、卷积的本质

卷积是一种运算,特征图与卷积核相对位置相乘再相加得出一个数。

卷积的作用:特征提取。

扫描二维码关注公众号,回复: 15365256 查看本文章

2、池化的本质

池化层夹在连续的卷积层中间, 用于压缩数据和参数的量,减小过拟合。

池化的作用:特征选择。

或者说特征降维。一幅图像含有的信息很大,特征也很多,但是有些信息对于我们做图像任务时没有太多用途或者有重复,我们可以把这类冗余信息去除,把最重要的特征抽取出来,这也是池化操作的一大作用。

3、能否代替的讨论

卷积是一个特征提取的过程,卷积通常可以使得特征图大小不变,利用卷积核个数使得通道数增加。

池化层,通常可以降低特征图的大小(宽、高),而通道数不变。

然而这是通常的做法。

卷积操作的本质是点积,是一个矩阵和另外一个卷积核矩阵的数学运算。

可以通过步长和padding等操作使得特征图大小变小,达到池化层的缩小特征图的功能。

而池化层能否达到卷积的功能呢?

两者本质的区别在于,池化层的运算是特征图内部的运算,所谓步长和卷积核是一个空洞的概念,是一个虚概念,不是实有的,不是真的有一个卷积核和它进行运算的。

因此,卷积是自己和别人玩,而池化是自己和自己玩。

这里还引申出了一个致命的问题。

这个“别人”就是我们的模型。

模型里面是参数,这个参数又是卷积核的参数。

整个模型不能没有参数,也就不能没有卷积,因此池化层不能完全代替卷积层。

另外一个角度来看,卷积是特征提取,pooling是特征选择。

特征提取是根本,特征选择是优化,是锦上添花。

卷积不可替代,pooling没有的话只是效果不佳的问题。

所以,卷积能代替pooling,这个代替是指的代替它还能work,而不是说代替它的全部功能。

事实上,没有pooling可能容易过拟合,因为特征提取出来的原始特征太多太杂了,而pooling进行特征选择就是保留重要特征丢弃其他特征的过程。

pooling不能代替卷积是因为没有卷积核就无法work了。

如果全是pooling,图像也能进行特征提取得出特征图(把最大值当做某种意义上的特征),但是仅仅是得到这个图,与模型毫无关系。

4、总结

池化层不能完全代替卷积层。

卷积层可以代替池化层。

 ——————

浅谈则止,细致入微AI大道理

扫描下方“AI大道理”,选择“关注”公众号

—————————————————————

—————————————————————

投稿吧   | 留言吧

猜你喜欢

转载自blog.csdn.net/qq_42734492/article/details/129672241
今日推荐