No.1.4

在这里插入图片描述

1.1 线性回归

 1)单变量线性回归
 2)最二乘和梯度下降
 3)多变量线性回归
 *4)多变量多项式回归

在这里插入图片描述

数据案例

在这里插入图片描述
线性回归

在这里插入图片描述

求解目标:找到θ1,θ2    
个人理解:利用均方误差代替损失函数,用平方损失代替风险R,又因为误差有正有负,所以要用平方消去符号

在这里插入图片描述
在求解θ1,θ2 过程中,采用梯度下降方法,随机梯度下降
梯度下降有三种方法,随机梯度下降,小批量梯度下降
*下图描绘的是损失函数,不是原函数
碗装函数,为凸函数 有全局最低点
在这里插入图片描述
梯度下降原理 理论,现实里:无法保证找到的是最好的点(全局最小值),一般为局部最小值
在这里插入图片描述

理解梯度  偏微分理解   向下最快的方向叫梯度 

在这里插入图片描述

在这里插入图片描述

发布了100 篇原创文章 · 获赞 23 · 访问量 9864

猜你喜欢

转载自blog.csdn.net/Captain_DUDU/article/details/104832675