前言
之前学习了传统的神经网络,尝试了手写数字的识别,之后学习下卷积神经网络。
传统神经网络存在的问题
- 权值太多,计算量太大了
- 权值太多,需要大量样本进行训练
- 样本大小最好是未知数的5到30倍这样的话需要的样本也非常大
局部感受野
根据猫视觉皮层得出的概念,基于此提出了神经感知机,是卷积神经网络的第一个网络的实现,
CNN通过感受野和权值共享减少了神经网络需要训练的参数个数。
卷积
不同的卷积核的影响:
不同的卷积核队图片的残阳特征不同
池化
- 最大池化
-最大池化就是在矩阵分成的四个区域筛选出每个区域的最大值放入到我们的池化矩阵中 - 平均池化
-平均池化就是在矩阵分成的四个区域计算出平均值放入到池化矩阵中 - 随机池化
-随机池化就是在矩阵分成的四个区域随机选一个放入池化矩阵中
两种池化方式
- SAME PADDING:可能会给平面外部补0
- VALID PADDING:不会超出平面外部
例如一个23的平面,采用22并且步长为2的窗口对其进行池化操作:
使用SAME PADDING结果如下:
使用VALID PADDING结果如下: