一、衡量模型复杂度
评价一个CNN的性能,除了其性能指标(分类任务的准确度、估计任务的误差、检测任务的精度等)外,还需要考虑该CNN的模型复杂度,如参数量和计算量。CNN的参数(parameters)包括CNN需要学习的卷积核权值(weight)、全连接层权值以及其他需要学习的权值,CNN的参数量便是指所有这些参数的个数之和。由于参数量比较大,一般以M或G作为单位,流行的ResNet50的参数量是25.56M。CNN的计算主要来自CNN前向推理需要执行的乘加计算,因此计算量常使用乘加计算数(英文为multiply-accumulate operations或multiply-add operations, 因此常缩写为MACs, MACC或MADD)。MACs一般为M或G数量级,流行的ResNet50的计算量是4.14G MACs。