机器学习：公式推导与代码实现-监督学习单模型

线性回归

线性回归（linear regression）是线性模型的一种典型方法。

回归分析不再局限于线性回归这一具体模型和算法，更包含了广泛的由自变量到因变量的机器学习建模思想。

原理推导

线性回归学习的关键问题在于确定参数w和b，使得拟合输出y与真实输出yi尽可能接近

为了求w,b可以对上面的式子进行求一阶导数并令其为0

 

 解的w,b:

 这种基于均方误差最小化求解线性回归参数的方法就是著名的最小二乘法.

 向量化表示

推导过程：