模型加速-小网络论文跟踪

(一)SqueezeNet

2016年2月,《AlexNet-level accuracy with 50x fewer parameters and <0.5MB model size》
论文地址:https://arxiv.org/abs/1602.07360
模型地址:https://github.com/DeepScale/SqueezeNet
核心思想:

  • 大量使用1x1卷机代替3x3卷积。减少参数和计算量。
  • 使用squeeze层减少输入通道数。
  • 将欠采样操作延后,可以给卷积层提供更大的激活图:更大的激活图保留了更多的信息,可以提供更高的分类准确率 。

(二)MobileNet

2017年4月, 《MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications》
论文地址:https://arxiv.org/abs/1704.04861
模型地址:
https://github.com/tensorflow/models/blob/master/research/slim/nets/mobilenet_v1.md
核心思想:
- 采用depth-wise separable convolution来减少运算量以及参数量
- 使用宽度参数,深度参数调节网络的宽,瘦。一般来说网络加深的效果要好于加宽的效果。建议保留深度。

继续

猜你喜欢

转载自blog.csdn.net/Iriving_shu/article/details/80613345