吴恩达机器学习——正规方程

Normal Equation:

线性回归中需要采用梯度下降法求解最优的\theta,实际上可以采用解析的方法直接求解\theta

\theta=(X^TX)^{-1}X^Ty

其中

X=\begin{bmatrix} x_0^{(0)} & x_1^{(0)} & .... & x_n^{(0)}\\ & ... & ... & \\ & ... & ... & \\ x_0^{(m)} & x_1^{(m)} & ... & x_n^{(m)} \end{bmatrix}

在octave中可用pinv函数求逆,在矩阵不可逆或者不为方阵时,他也能得到想要的答案。python的scipy库中有类似函数。

适用条件:

1. 特征数目少,一般在10000以下认为正规方程更有优势。

猜你喜欢

转载自blog.csdn.net/jonathanzh/article/details/81610164