牛顿法求极值，及其与梯度下降法的比较

1. 牛顿法求方程的根

假设我们需求$f(x)=0$的根

首先，把$f(x)$在$x_0$进行一阶泰勒展开：

由$f(x)=0$可得：

因此迭代公式为：

 

2. 牛顿法求极值

牛顿法