【Numerical Optimization】5 Conjugate Gradient Methods(发展历史1948-1976)

20世纪50年代初,共轭梯度算法和Lanczos算法一起应用于求解线性方程组和特征问题。20世纪70年代中期这些方法得到广泛应用,不久之后,计算机的出现使得这些方法能够真正解决问题。CG算法开始应用于求解非线性方程组和优化问题。

5.1 早期文章

共轭方向算法的第一个表示是Fox、Huskey和Wilkinson(1948)提出的,他们认为它们是直接的方法,Forsythe、Hestenes和R。 OSSER(1951),Hestenes and Stiefel(1952),Rosser(1953),他们讨论了NBS研究。共轭梯度算法在Hestenes(1951)、Lanczos(1952)、Hestenes和Stiefel(1952)、Stiefel(1952)、Stiefel(1953)、Curtiss(1954)、Hestenes(1955)、Hestenes(1956)和Stiefel(1957)文中都有所描述。Hestenes,Lanczos和Stiefel清楚地认为该算法是一个n步收敛算法。 对于某些问题,也建议使用它作为迭代算法,对于好条件的问题,需要的迭代步骤少于n步,对于坏条件的问题,可能需要超过n步。共轭梯度算法的结果分别在Stiefel(1953年)、Fischbach(1956)、Stiefel(1958)、Engeli、Ginsburg、Rutishauser和Stiefel(1959年)中呈现。Fischbach(1956)、Stiefel(1958)和Engeli等人(1959)考虑了预先条件、过滤或内积的变化 。Hayes(1954)和Altman(1959)讨论 Hilbert空间中的共轭梯度算法。

5.2

参考文献

Golubt G H . SOME HISTORY OF THE CONJUGATE GRADIENT AND LANCZOS ALGORITHMS: 1948-1976"[J]. Siam Review, 1989, 31(1):50-102.

猜你喜欢

转载自blog.csdn.net/weixin_38716567/article/details/86560593