线性回归为什么选择最小二乘

借用,吴恩达的图和公式

对于每一个样本而言,它的预测y和输入x以及误差还有参数之间的关系如下(这里的参数是固定值,不是随机变量)


 我们知道对于误差而言我们假设它是一个均值为0的高斯分布

(为什么是高斯分布:http://blog.csdn.net/lpsl1882/article/details/78906274)

 我们知道


那么y-theta*x = 误差 也服从高斯分布


那么这个时候就好办了  我们最大似然走起,下面就是数学推导没啥好说的了




猜你喜欢

转载自blog.csdn.net/wqtltm/article/details/79328551