轻量级深度卷积模型的一些评价指标

前言：
旨在分享一些轻量级深度学习模型的通用性指标评价概念和python实现，帮助大家理解也方便自己查阅。
这篇博客主要是对轻量级模型的一些指标概念阐述和pytorch的一个简单demo实现。

---

1. FLOPs概念

• FLOPs:
  注意s小写，是FLoating point OPerations的缩写（s表复数），意指浮点运算数，理解为计算量。可以用来衡量模型的复杂度。针对神经网络模型的复杂度评价，应指的是FLOPs，而非FLOPS。
• FLOPS：
  注意全大写，是floating point operations per second的缩写，意指每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标。比如nvidia官网上列举各个显卡的算力（Compute Capability）用的就是这个指标，如下图，不过图中是TeraFLOPS，前缀Tera表示量级：MM，2^12之意。
  1. 一些基本换算关系࿱