版权声明：添加我的微信wlagooble，开启一段不一样的旅程 https://blog.csdn.net/nineship/article/details/81504403
出现的问题：随着网络深度的增加，准确率逐渐达到饱和，并迅速下降。
这种问题可以通过引入參差网络来改进。我们期望的误差为H(X)，我们将其修改为H(X) = F(X) + X。此外这种改进不仅可以在理论上可行，并且他的实现也比较容易，直接在输入和输出之间增加一条线路，依然可以使用随即剃度下降法来实现。运行时间是线性的。
3. 网络架构
简单网络：
左一为VGG16，左二为更深层次的网络，左三为Resnet。
4. 实验
ImageNet
imagenet top-1的错误率，训练过程如下所示：
其余的都是在各个数据集上的优秀表现，等以后再添加