数值分析ppt第6章_共轭梯度法.ppt

共轭梯度法 在使用SOR方法求解线性方程组时，需要确定松驰因子，只有系数矩阵具有较好的性质时，才有可能找到最佳松驰因子，而且计算时还需要求得对应的Jacobi矩阵B的谱半径，这常常是非常困难的。 介绍一种不需要确定任何参数的求解对称正定线性方程组的方法——共轭梯度法（或简称CG法）。它是50年代初期由Hestenes和Stiefel首先提出的，近20年来有关的研究得到了前所未有的发展，目前有关的方法和理论已经相当成熟，并且已经成为求解大型稀疏线性方程组最受欢迎的一类方法。 共轭梯度法可由多种途径引入，这里我们将采用较为直观的最优化问题来引入。为此，我们先来介绍最速下降法。 * 定理6.4.1 设 对称正定，求解方程组 等价于求二次泛函 的极小点。 考虑线性方程组 ????????? (4.1) 是给定的 阶对称正定矩阵， 是给定的 维向量， 是待求的 为此，我们定义二次泛函 (4. 2) 的求解问题。其中 维向量。 证明 直接计算可得 令 ，则有 若 在某点 处达到极小，则必有 ，从而有 ，即 是方程组的解。 反之，若 是方程组的解，即 于是对任一向量 有 注意到A的正定性，则 ，因此 即 是泛函 的极小点。 最速下降法 求解线性方程组的问题就转化为求二次泛函 的极小点的问题。求二次函数的极小值问题， 通常的做法就好象盲人下山那样，先任意给定一个初始向量 确定一个下山的方向 ，沿着经过点 而方向为 的直线 找一个点 使得对所有实数 有 以上性质说明不论采用什么方法，只要能够构造 作为搜索方向，从任一初始向量出发，依次沿两两Ａ共轭的方向 进行搜索，经 步迭代后，便可得到正定方程组 的解． 个两两Ａ共轭的向量