线性方程组共轭梯度法.pptVIP

线性方程组的共轭梯度法 (Hestenes and Stiefel,1952) 无约束最优化问题的共轭梯度法 正交方向 共轭方向 共轭梯度法 正交方向及其性质 A共轭方向 A共轭方向的生成：共轭梯度法 共轭梯度法基本性质 βk的不同计算公式 正定二次函数的共轭梯度法 一般可微函数的共轭梯度法 共轭梯度法的特点 具有二次终止性，即对正定二次函数经过有限步迭代必达到最优解。 为下降算法，可看成最速下降算法的一般化或推广（最速下降法相继搜索的两个方向是正交的，而共轭梯度法相继搜索的两个方向是Ａ共轭的） 存储量少（仅需存储三个ｎ维向量x(k),g(k),d(k)），较适用于大规模问题 正定对称方程组的共轭梯度法 一般对称矩阵方程组的共轭梯度法 一般线性方程组的共轭梯度法 * 罗林开 模式识别与智能系统研究所 * * 沿两个相互正交的方向，进行精确一维搜索，即可得到最优解（二维情形） d(1) x(1) x(2) x(3) =x* d(2) 定理: 对于正定二次函数， 采用精确一维 搜索的共轭梯度法在 步后终止， 且对 成立下列关系式：