线性回归的常用求解方法之最小二乘法(一):最小二乘回顾意义通俗理解+工资和年龄对贷款金额的影响案例案例

平方误差

平方误差可以写作
在这里插入图片描述

对w求导

对w求导,当导数为0的时候,平方误差最小,此时w等于

在这里插入图片描述
解释:我们的目的是求y=wx+b+e中的w和b,先使平方误差最小,也就是导数为0,此时w就求出来了,然后b就也求出来了了。

一个线性回归的例子

数据:工资和年龄(2个特征)
目标:预测银行汇贷款给我多少钱(标签)
考虑:工资和年龄都会影响最终银行贷款的结果那么它们各自有多大的影响呢(参数)
在这里插入图片描述
公式:
在这里插入图片描述
多少个公式,w1和w2的结果会不一样,找到一个比较综合的w1和w2让他们都能体现出来。

通俗解释:
X1,X2就是我们的两个特征(年龄,工资),Y是银行最终会借给我们多少钱。
找到最合适的一条线(想象一个高维)来,最好的拟合我们的数据点
在这里插入图片描述
假设θ1是年龄的参数, θ2是工资的参数

拟合的平面:
在这里插入图片描述
(θ是偏置项)

整合:
在这里插入图片描述
误差:
真实值和预测值之间肯定是要存在差异的
(用在这里插入图片描述来表示该误差)
对于每个样本:
在这里插入图片描述
i是次数

发布了522 篇原创文章 · 获赞 648 · 访问量 7万+

猜你喜欢

转载自blog.csdn.net/qq_35456045/article/details/104486006