在机器学习领域,总是看到“算法的鲁棒性”这类字眼,比如这句--L1范数比L2范数鲁棒。
“鲁棒”的英文是robustness,其是一个特别大的研究领域。最权威的著作当属稳健统计的2本厚书 文献[1]和[2],有志之士可作研究。
Huber从稳健统计的角度系统地给出了鲁棒性3个层面的概念:
一是:模型具有较高的精度或有效性,这也是对于机器学习中所有学习模型的基本要求;
二是:对于模型假设出现的较小偏差,只能对算法性能产生较小的影响;
主要是:噪声(noise)
三是:对于模型假设出现的较大偏差,不可对算法性能产生“灾难性”的影响。
主要是:离群点(outlier)
参考作者:https://blog.csdn.net/zhouxinxin0202/article/details/79915873