陆陆续续学习深度学习已经快1年，接下来总结各个模型的优缺点~
1、目的：
1）大多数图像识别模型精度很高，但参数较大，模型较大，不适合在嵌入式设备中使用。
2）小数的小模型还不够小（参数小、运算量少、精度高），而且不关注speed。
2、现有方法
1）实现小模型的方法：压缩预训练模型、直接设计小模型结构
2）直接设计小模型结构：Flattened network、Xception network、Squeeze network、transform network(一类)、deep fried network（一类）
3）压缩预训练模型：shrinking、factorizing、compressing（product quantization、hashing、pruning、vector quantization、Huffman coding）、distillation。
3、怎么解决（解决方法）
1）深度可分离卷积（depsewise separable convolution） = separable convolution（每个输入通道对应一个卷积核，filter 信息） + pointwise convolution（1×1的卷积核，combine信息）
2）width multiplier：模型更瘦
3）resolution multiplier：减低模型的输入分辨率
4、模型结构
5、优点
1）常规矩阵乘法运算（GEMM）要求输入初始数据重排序，以适应相应的矩阵package，而pointwise卷积不需要数据在内存中重排序。
2）mobilenet_v1的大部分运算集中在1×1的pointwise卷积
6、缺点
待定~
7、效果
在分类、检测、定位各个领域效果都很好~
-- ove--
