经典卷积神经网络之—–VGG16
1.特点:
1.VGGNet探索了卷积神经网络的深度与其性能之间的关系,通过反复堆叠3×3的小型卷积核和2×2的最大池化层,VGGNet成功地构筑了16-19层深的卷积神经网络;
2.VGGNet结构简洁,整个网络都使用了同样大小的卷积核尺寸(3×3)和最大池化尺寸(2×2);
3.拥有5段卷积,每段内有2-3个卷积层,每段段尾连接一个最大池化层,用来缩小图片;
4.使用非常多的3*3卷积串联:
- 2个3*3卷积串联 == 1个5*5的卷积
- 3个3*3卷积串联 == 1个7*7的卷积
优点:但卷积串联比单独使用一个较大的卷积核,拥有更少的参数量,同时会比单独一个卷积层拥有更多的非线性变换。
5.Some tricks:
- 先训练卷积层数较少的A网络,再用A网络权重初始化卷积层较多的复杂模型;
- 数据增强:Multi-Scale:将不同尺寸图片的预测结果进行平均;将图片缩放到不同尺寸,再随机裁剪成224*224的图片,进行训练。
2.网络结构
3.几个观点
- LRN层作用不大
- 越深的网络效果越好
- 1*1卷积很有效,但没3*3的卷积好,大一点的卷积核可以学习更大的空间特征。
- 更深的网络和更小的卷积核带来隐式的正则化效果