第六章线性与非线性方程组的迭代解法.ppt

设 ，且 的所有对角元 且是2-循环和相容次序矩阵，记 的特征值均在 上，并记 为求解方程组 的Jacobi迭代矩阵，且 则求解方程组的SOR方法的迭代矩阵的谱半径满足： 且当 时， 是 的单调递减函数，并有 关于最佳松弛因子的进一步讨论，可参考文献 《数值计算方法》（下册），林成森著 《矩阵迭代分析》，R.S.Varga著，蒋尔雄等译 关于块松弛迭代法构造思想类似SOR方法 §6.4 共轭梯度法/*Conjugate Gradient Method*/ 一、与方程组等价的变分问题 思想 共轭梯度法是一种变分方法，将求解方程组 问题等价转化为一个二次函数的极值问题 设 为对称正定矩阵， 其中 定义二次函数 ?二次函数 的基本性质： ?对 ?设 为 的解，则 ，且对 有 设 对称正定，则 为 的解的 充要条件是 证明： 必要性由上述性质?易知，下证充分性： 定理6.4.1说明：求解方程组的解等价于求上述 二次函数的最小值。常用方法：迭代解法 如果 则由极值的必要条件得 二、最速下降法/*Steepest Descent Method*/ 思想 最速下降法是指每次沿着函数值 下降最快的方向寻找最小值点。 而函数值下降最快的方向是函数的负梯度方向 ?几何意义： 等值线 图形 ?最速下降法的实现过程 选取初始向量 ，由二次函数 的基本性质? 如果 ，则 就是方程组的解； 如果 ，则沿 方向进行一维极小搜索： 求步长 ，使得 注意到 令 ，从而完成第一次迭代。 下面以 为新的初值，重复上述过程。 ?最速下降法的算法 选取初值 For k=0,1,2,… 如果 ，停止 否则，进行下一次循环 搜索方向是正交的： 缺陷：收敛速度慢 引理6.4.1 设 的特征值为 , 是 的一个实系数多项式，则 其中 。 证明： 设 ，且满足 则有： （可约矩阵的等价定义） 设矩阵 ， ，如果 存在 的两个非空子集 和 ，满足 使得 则称矩阵 可约，否则称 不可约。 例如： 矩阵 矩阵 不可约 设 为 严格对角占优或不可约对角 占优，则 ，且 非奇异。 证明： ?首先证明矩阵为严格对角占优的情况（反证法） 设矩阵 奇异， 则方程组 存在非零 解 。 不妨假设 ， 则由第k个方程得： ?其次证明矩阵为不可约对角占优的情况 首先证明 设 由条件： 是弱对角占优， 即存在集合 与 不可约矛盾！ 使得 下面证明 是非奇异的： 设 则存在非零向量 满足 则存在非空集合 否则 与 弱对角占优矛盾！ 且满足 与 弱对角占优矛盾！ 不可约条件 设 为 严格对角占优或不可约对角占优的 对称矩阵，且对角元素皆为正，则 正定。 推论 证明： 设 为矩阵 的特征值，则对于 ， 注意到 与 同为严格对角占优或不可约对角占优 则 ， 即 由 的任意性知，矩阵 的特征值均大于零， 所以 正定。 若 为 严格对角占优或不可约对角占优的， 则Jacobi迭代和Gauss-Seidel迭代收敛。 证明： ?首先证明Jacobi迭代的收敛性（反证法） 因为 是 严格对角占优或不可约对角占优，则 设 有一个特征值 ，满足 ，则有 注意到 也为严格对角占优或不可约对角占优 与 是 的特征值矛盾 仅给出不可约