机器学习入门(九):回归与聚类算法——线性回归、过拟合、岭回归

学习目录:
在这里插入图片描述

线性回归:

在这里插入图片描述
在这里插入图片描述

案例:波士顿房价预估(比较正规方程和梯度下降优化方法)

使用正规方程优化:
在这里插入图片描述
使用梯度下降优化:
在这里插入图片描述
在这里插入图片描述
使用均方误差(MSE)评估模型好坏:
在这里插入图片描述
在这里插入图片描述

总结:

在这里插入图片描述

过拟合与欠拟合

正则化类别:
**L2正则化(常用):**给损失函数后面加一个惩罚项,这个惩罚项与权重有关,在优化损失函数降低损失值得同时还可以减小特征对应的权重。
L1正则化:

在这里插入图片描述

岭回归

就是带L2正则化的线性回归
在这里插入图片描述

案例:使用岭回归对波士顿放假预测

在这里插入图片描述
在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/qq_45234219/article/details/115048132