版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/u011240016/article/details/85218635
卷积计算
全连接层和卷积层的根本区别在于：全连接层（Dense层）从输入空间中学到的是全局模式，而卷积层学到的是局部模式。
因为这个特性，所以卷积神经网络有两个有趣的性质：
- 平移不变性：卷积神经网络在图像右下角学到的某个模式，它可以在任何地方识别出来这个模式；而对于全连接网络，如果模式出现在新的位置，就必须重新学习这个模式。所以卷积神经网络需要更少的数据就可以学到具有泛化能力的数据表示。
- 空间层次结构：卷积神经网络可以逐层抽象，可以有效学到越来越复杂，越来越抽象的视觉概念。
训练一个模型
使用已有的少量数据从头开始训练一个新模型，第一步先不做任何正则化，这是模型的基准，此时的模型会过拟合，然后通过数据增强，来降低过拟合。深度学习在小型数据集上有另外两个重要技巧：
- 用预训练网络做特征提取
- 对预训练网络微调
三种工具，要善用：
- 从头开始训练
- 使用预训练模型
- 对预训练模型进行微调
END.