【总结】工业检测项目中如何选择合适的损失函数

1、从误差的角度来说:MSE(L2损失)可以用来评价数据变化的程度,MAE(L1损失)则能更好的反映预测值误差的实际情况。

2、从离群点角度来说:如果离群点仅仅只是在数据提取过程中的损坏或者数据清洗中的错误采样,则无须给予过多关注,那么我们应该选择MAE,但如果离群点是实际的数据或者重要的数据需要被检测到的异常值,那么我们应该选择MSE。

3、从收敛速度的角度来说:MSE>Huber>MAE。

4、从求解梯度的复杂度来说:MSE要优于MAE,且梯度也是动态变化的,MSE能较快准确达到收敛。

5、从模型选择的角度来说:对于大多数CNN网络,我们一般是使用MSE而不是MAE,因为训练CNN网络很看重训练速度,对于边框预测回归问题,通常也可以选择平方损失函数,但平方损失函数的缺点是当存在离群点的时候,这些点会占loss的主要部分。对于目标检测Faster RCNN采用稍微缓和一点的绝对损失函数(smooth L1损失),它是随误差线性增长,而不是平方增长。

猜你喜欢

转载自blog.csdn.net/Mike_honor/article/details/125807862
今日推荐