西安交通大学计算方法A上机作业.docVIP

计算方法（A）大作业 姓名： 班级： 专业： 学号： PAGE PAGE 一、 算法原理 共轭梯度法 共轭梯度法是把求解线性方程组的问题转化为求解一个与之等价的二次函数极 小化的问题，因此从任意给定的初始点出发，沿一组关于矩阵 A 的共轭方向进行 线性搜索，在无舍入无差的假定下，最多迭代 n(其中 n 为矩阵 A 的阶数）次就可 求得二次函数的极小点，也就求得了线性方程组 Ax=B 的解。 下述定理给出了求系数矩阵 A 是对称正定矩阵的线性方程组 Ax=b 的解与求二 次函数??(?) = 1 ??? ??? ? ????极小点的等价性。 2 定理 3.4.1 设 A 是 n 阶对称正定矩阵，则??是方程组 Ax=b 的解的充分必要条 件是??是二次函数??(?) = 1 ??? ??? ? ????的极小点，即 2 ???? = ? ? ??(??) = ???? ??(?) ?∈???? 证明：充分性.设??是 f(x)的极小点，则由无约束最优化问题最优解的必要条件知 ???(??) = ???? ? ? 即??是方程组 Ax=b 的解。 必要性. 若??是方程组 Ax=b 的解，即 A??=b，注意到 A 是对称正定矩阵，故 ?x ∈ ??有 ??(?) ? ??(??) = 1 ??? ??? ? ???? ? 1 ??????? + ????? 2 2 = 1 (?????? ? 2???? + ????????) ? ???????? + ????? 2 = 1 (?????? ? 2(????)??? + ????????) ? (???? ? ?)???? 2 = 1 (? ? ??)????(? ? ??) 2 ≥ 0 即??是 f(x)的极小点，进而由 A 是正定矩阵知，??是 f(x)的最小点。证毕。 共轭梯度法在形式上具有迭代法的特征，在给定初始值情况下，根据迭代公式： ?(?+1) = ?(?) + ???(?) 产生的迭代序列?(1), ?(2), ?(3) … 在无舍入误差假定下，最多经过 n 次迭代，就可 求得 f(x) 的最小值，也就是方程 Ax=b 的解。 共轭梯度法中关键的两点是，确定迭代格式中的搜索向量??(??) 和最佳步长???? （????≥0）。实际上，搜索方向d(?)是关于矩阵 A 的共轭向量，在迭代中逐步构造之。 步长??的确定原则是给定迭代点?(?) 和搜索方向d(?)后，要求选取非负实数??，使 得f(?(?) + ??d(?))达到最小，即选择??，满足 ??(?(?) + ???(?)) = ???? ??(?(?) + ??(?)) 0≤?? 下面首先导出最佳步长?k 的计算公式。 假 设 迭 代 点 ?(?) 和 搜 索 方 向 d(?) 已 经 给 定 ， ?? 可 以 通 过 一 元 函 数 ?(?) = ??(?(?) + ??(?)) 的极小化 ?????(?) = ??(?(?) + ??(?)) 0≤?? 来求得，根据多元复合函数的求导法则得: ?? (?) = ???(?(?) + ??(?))???(?) 令 0 = ?? (?) = ???(?(?) + ??(?))???(?) = [??(?(?) + ??(?)) ? ?]???(?) = (???(?) ? ? + ????(?))???(?) = (???(?) + ????(?))???(?) 其中??(?) = ? ? ???(?)。由此解得最佳步长 ?? = 下面确定搜索方向d(?)。 ??(??)????(??) ??(??)??????(??)  (3.4.4) 给定初始向量?(0)后，由于负梯度方向是函数下降最快的方向，故第 1 次迭代 取搜索方向?(0) = ??(0) = ????(?(0)) = ? ? ???(0) 。令 ?(1) = ?(0) + ?0?(0) 其中?0 = ??(0)????(0) ??(0)??????(0) 。第 2 次迭代时，从?(1) 出发的搜索方向不再取??(1)，而是 选取?(1) = ??(1) + ?0?(0)，使得?(1)与?(0)是关于矩阵 A 的共轭向量，即要求?(1)满 足(?(1), ???(0)) = 0，由此可求得参数?0: ??(1)?? ???(0) ?0 = ? ?(0)?????(0) 然后从?(1)出发，沿?(1)进行搜索得到 ?(2) = ?(1) + ?1?(1) 其中?1由式（3.4.4）确定。 一般