机器学习中经常所说的鲁棒性

在机器学习领域,总是看到“算法的鲁棒性”这类字眼,比如这句--L1范数比L2范数鲁棒。

“鲁棒”的英文是robustness,其是一个特别大的研究领域。最权威的著作当属稳健统计的2本厚书 文献[1]和[2],有志之士可作研究。

 Huber从稳健统计的角度系统地给出了鲁棒性3个层面的概念:

        一是:模型具有较高的精度或有效性,这也是对于机器学习中所有学习模型的基本要求;

        二是:对于模型假设出现的较小偏差,只能对算法性能产生较小的影响;   

               主要是:噪声(noise)

        三是:对于模型假设出现的较大偏差,不可对算法性能产生“灾难性”的影响。  

              主要是:离群点(outlier)


参考作者:https://blog.csdn.net/zhouxinxin0202/article/details/79915873

猜你喜欢

转载自blog.csdn.net/abc13526222160/article/details/84503824