李宏毅机器学习笔记3-机器学习中的错误来源(bias和variance)

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接: https://blog.csdn.net/you_jinpeng/article/details/91397798

bias(偏差)和variance(方差)

一 什么是bias和variance
bias是瞄错了靶心,variance是射偏的程度。

在这里插入图片描述
次方越多,越贴近于train data,所以bias越小,但是,由于train data中的数据间的差异更大,所以variation越大。
次方越少,越适用于test data,但是就像瞄靶心一样,瞄远了,这个时候bias大,但是不贴近train data,所以vacation小。
![(https://img-blog.csdnimg.cn/20190610195350422.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L3lvdV9qaW5wZW5n,size_16,color_FFFFFF,t_70)
二 两种对应的应对方法
怎么知道自己是bias大还是vacation大:
如果你的model无法fit你的train data 数据,说明你的bias大,此时,欠拟合如下图:
在这里插入图片描述
反之,你的model很fit你的train data 数据,但是和你的test data非常不fit,说明variation,此时,过拟合。

bias大时候如何提升你的算法:
如下图
在这里插入图片描述
重新设计模型,可以考虑更多的参数,加入更多的次方。

*variation大时候如何提升你的算法:*如下
在这里插入图片描述
使用更多的训练数据,使用正则化(使得曲线更加的平滑,会往中心靠,可能会伤害你的bias)。

猜你喜欢

转载自blog.csdn.net/you_jinpeng/article/details/91397798