CNN 1.9 Pooling Layers

pooling（池化）层的作用

1 减少展示量（特征量）
2 提高计算速度
3 使一些特征的检测功能更强大

举例说明

pooling背后的机制–以max pooling为例

这里来说一下max pooling背后的机制 。如果你把这个4x4的区域看作某个特征的集合，即神经网络某个层中的激活状态。那么 一个大的数字意味着它或许检测到了一个特定的特征。所以，左侧上方的四分之一区域有这样的特征，它或许是一个垂直的边沿 亦或一个更高或更弱，显然 左侧上方的四分之一区域有那个特征。 然而这个特征 或许它不是猫眼检测 但是 右侧上方的四分之一区域没有这个特征 所以 max pooling做的是 检测到所有地方的特征 四个特征中的一个被保留在max pooling的输出中 。所以，max pooling作所做的其实是，如果在滤波器中任何地方检测到了这些特征 就保留最大的数值。但是 如果这个特征没有被检测到 可能左侧上方的四分之一区域就没有这个特征 于是 那些数值的最大值仍然相当小。这或许就是max pooling背后的解释。

pooling的参数和超参

max pooling的一个有趣的特性是 它有一套超参 但是它没有任何参数需要学习 实际上 没有任何需要梯度相加算法学习的东西 一旦确定了 f 和 s 就确定了计算 而且梯度下降算法不会对其有任何改变。