前面的章节介绍的神经网络每两层之间的所有结点都是有边相连的
这种网络结构称为全连接层网络结构
全连接神经网络与卷积神经网络的结构对比图:
对于全连接神经网络,每相邻两层之间的节点都有边相连
于是一会会将每一层全连接层中的节点组成一列,这样方便显示连接结构
而对于卷积神经网网络,相连两层之间只有部分节点相连
为展示每一层神经元的维度,一般会将每一层卷积层的节点组织成一个三维矩阵
问题:为什么全连接神经网络无法很好地处理图像数据
解答:全连接神经网络最大的问题在于全连接层的参数太多
卷积神经网络架构图:
1.输入层
处理图像时,一般代表一张图片的像素矩阵.从输入层开始,卷积神经网络通过不同的神经网络
结构将上一层的三维矩阵转化为下一层的三维矩阵,知道最后的全连接层
2.卷积层
最为重要的部分,卷机层中的每一个节点的输入只是上一层神经网络的一小块,
这个小块常用的有3X3或者5X5,卷积层试图将神经网络中的每一个小块进行更加深入的分析
从而得到抽象程度更高的特征.一般来说,通过卷积层处理过的节点矩阵会变得更深,如图6-7所示
3.池化层
池化层不会改变三维矩阵的深度,但是他可以缩小矩阵的大小,池化操作可以认为是将
一张分辨率高的图片转化为分辨率低的图片,通过池化层,可以进一步缩小最后全连接中节点的个数
从而减少整个神经网络中参数
4.全连接层
我们可以将卷积层和池化层看成自动图像特征提取的过程,在特征提取完成之后,任然要用全连接
层来完成分类任务
5.softmax层
通过softmax层,可以得到当前样例属于不同种类的概率分布情况