高等工程数学 —— 第五章 （3） 无约束非线性优化算法

高等工程数学 —— 第五章 （3） 无约束非线性优化算法

最速下降法

例：

牛顿法

看例题会好一点

例1：

例2：

阻尼牛顿法

上述牛顿法收敛的比较快，但是存在一些问题。

因此引入阻尼牛顿法。个人感觉其实就是将牛顿法与最速下降法相结合。求$d^{(k)}$时用牛顿法，求$x^{(k)}$时用最速下降法。

例：

共轭梯度法

还是看例题吧。

例：