c053.5_共轭梯度法概要1.ppt

* 3.5.0 线性方程组解与二次型极小 考虑 阶对称正定线性方程组 （3－62） 定义二次函数 定理3.9 设 对称正定，则 证明 必要性 设 将任一 表为 其中 于是 充分性 设 由多元函数极值理论，应有 这恰好相当于 3.5.1 最速下降法 任取初始向量 局部地，在负梯度方向 上， 减小最快。 一维搜索：选取 使得 于是， 又注意 因此， 于是，令 一般地 可以证明 1） 2） 其中 为 的按模最大最小特征值， 最速下降法收敛慢，而且不稳定。 锯齿形路径！ 3.5.2. 共轭梯度法（共轭斜量法） 1） 任给初始近似 2） 对 计算： 令 其中 其中 3.1 3.2 3.3 （从 出发，在 方向取极小值。） （ 处 的梯度。） （新的搜索方向：梯度方向与上次搜索方向的组合，与 垂直。 *