以下是经典的卷积神经网络结构的总结，从中我们可以了解到整个CNN的发展趋势和进化方向。
LeNet：较早的深度神经网络结构。
AlexNet：相比LeNet，网络更深。使用了堆叠卷积层来做特征提取，通常是一个卷积层之后连接一个MaxPooling层，形成网络结构。
GoogLeNet：减少参数数量，最后一层用Max Pooling层代替了全连接层，同时引入Inception-v4模块的使用。
VGGNet：只使用3x3 卷积层和2x2 pooling层进行深度神经网络结构连接。
ResNet：引入了跳层连接和Batch Normalization。
DenseNet：将跳层连接应用于整个网络结构。
这些结构的发展趋势有：
- 使用更小尺寸的滤波器的卷积层和池化层
- 去掉参数过多的全连接层
- Inception
整体设计利用图像的不变性的先验知识可以提高深度神经网络整体的性能同时节省了计算量。满足新的不变性特点的神经网络和减少计算量的优化是计算机视觉的很重要的研究方向。
友情推荐：ABC技术研习社
为技术人打造的专属A(AI),B(Big Data),C(Cloud)技术公众号和技术交流社群。
