3第三章节 线性方程组迭代解法.ppt

线性方程组的解法 第三章 线性方程组的迭代解法 3.1 迭代法的一般形式及其收敛性 3.2 线性代数方程组的常用迭代法 算法描述: 3.3 超松弛(SOR)迭代算法 3.4 解线性代数方程组的共轭梯度法 3.4.1 最速下降法 3.4.2 共轭梯度(CG)算法 Numerical Analysis J. G. Liu School of Math. Phys. North China Elec. P.U. 考虑如下线性方程组 写成矩阵形式 其中 , 由克莱姆法则可知 (1)有唯一解. (3.1) 直接法得到的解理论上是准确的，但是我们可以看得出，它们的计算量都是n3数量级，存储量为n2量级，这在n比较小的时候还比较合适（n400），但是对于现在的很多实际问题，往往要我们求解具有高阶系数矩阵的线性方程组，而且该矩阵往往是稀疏矩阵，即矩阵中含有大量的零元素。对于这类线性方程组，用直接法求解效率很低（不保稀疏性）。这就要求我们使用迭代法。 迭代法 构造一个向量序列，使它的极限是所求线性方程组的解向量。因此，即使计算过程是精确的，也不能通过有限步算术运算求得方程组的精确解，只能是逐步逼近！ 因此，迭代法需要考虑收敛性和精度控制问题！ 1、Jacobi迭代； 2、Gauss-Seidel迭代; 3、超松弛迭代法（SOR); 4、共轭梯度(CG) 法。 本节主要介绍： 下面考虑 事实上，令 ，则 给定初值x(0)，可以构造序列 若 并且， (与初值x(0)的选取无关!) ? # 所以， 序列收敛 迭代格式 设 (3.2) (4.1) (3.3) 定理1 迭代格式(3.2) 收敛 定义1 迭代法（3.2）的平均收敛速度定义为 。 由（3.3）式可得 引理 设A∈Rn×n，‖?‖为任一矩阵范数，则 注： 平均收敛速度与范数和迭代次数有关，计算不便！ 定义2 迭代法（3.2）的渐近收敛速度定义为 定理2 若 ，则 (1) 方程组(3.1)的解x*存在并且唯一； (2) 对迭代格式(3.2)有 并且 ① ② 下面给出迭代格式(3.2)收敛的一个充分条件及误差估计， 证明： (1) 非奇异 (2) 下证误差估计式， 由迭代公式(3.2) ①得证！ 注： 可作为迭代是否停止的判断条件！ 由①知可由 或 ②得证！ # 即 迭代格式收敛。 迭代矩阵G的构造原则： 充分利用矩阵的稀疏性，使运算量和存贮量尽量少，办法就是使迭代矩阵G与原矩阵A有相同的稀疏结构。 具体构造方法: 令 其中 由 可以得到 1、Jacobi 迭代算法 令 可得： 从而可得Jacobi 迭代算法： 算法的分量形式为(具有并行性)： 若D非奇异， 2、Gauss-Seidel 迭代算法 令 可得： 从而可得Gauss-Seidel迭代算法： 算法的分量形式为(只能逐个元素进行计算) ： 也可写成如下形式： 易于编程实现 迭代算法的收敛性： (1) Jacobi迭代算法收敛 Gauss-Seidel迭代算法收敛 (2) 若A按行（列）严格对角占优，则Jacobi迭代和Gauss-Seidel迭代收敛；# Jacobi迭代收敛； Gauss-Seidel迭代收敛； (3) (4) 若A为正定矩阵，则Gauss-Seidel迭代收敛。# 两种方法都存在收敛性问题，但两者的收敛性没有必然联系！ 有例子表明：Gauss-Seidel法收敛时，Jacobi法可能不收敛；而Jacobi法收敛时， Gauss-Seidel法也可能不收敛。 注: Jacobi迭代算法： 给定迭代初始向量x(0)，置迭代次数k=0，精度要求 和最大迭代次数N； 计算 ，k=k+1； (1) (2) 若 ，则停止计算（x(1)作为方程的解）； (3) 若 k=N，则停止计算（输出某些信息），否则x(0)=x(1)，转(1)； 注： 将 (1)中的迭代公式换作 即为G-S迭代的算法描述！ 1） 2） 通常取向量的无穷范数！ 设已得到 下面，对Gaus