深度学习(十五)卷积神经网络CNN(1)---网络简介

       从连接方式看,全连接网络的好处是每个输入维度的信息都会传播到其后任何一个节点中去,会最大程度的让整个网络的节点都不会“漏掉”这个维度所贡献的因素。不过全连接网络的缺点是w和b参数格外多,即训练中要更新的权重非常多,整个网络的收敛非常慢,对于图片识别的这种输入像素一般几百万(以像素为单位)的分类处理,就会变得不可行,因为处理器的计算速度不能满足。所以卷积神经网络(concolutional neural network,CNN)的设计很好的满足了训练的要求。

       卷积神经网络的核心思想是:局部连接(局部感受野(local field))、权值共享以及时间或空间下采样方法思想结合,从而获得了某种程度的平移、缩放和扭曲不变性,使提取的特征更具有区分性。

       需要关注的常用参数:

       1、卷积核的大小

       2、卷积核的深度(depth)

       3、步幅(stride):stride可以理解为卷积核每次滑动的单位。Stride取多少合适需要经过测试,先设置stride=1,如果效果理想并希望通过加大stride来获得一些性能的提升或者存储量的减小,那么可以尝试逐步调整为stride=2或其他值。

       4、补零(zero-padding):Padding的目的可以理解为两个方面:

           (1)、保持边界信息。因为不加Padding的话,最边缘的像素点信息其实仅仅被卷积核扫描了一遍,而图像中间的像素点信息会被扫描多遍,这在一定程度上降低了边界信息的参考程度。Padding后,这个问题可在一定程度上得到解决。

           (2)、如果输入的图片尺寸有差异,可以通过Padding来进行补齐,使得输入的尺寸一致,以免频繁调整卷积核和其他层的工作模式。


猜你喜欢

转载自blog.csdn.net/hzqgangtiexia/article/details/80510851
今日推荐