7第七章 线性方程组的迭代解法.ppt

第七章 线性方程组的迭代解法 § 1 迭代法的一般形式及其收敛性 § 2 线性代数方程组的常用迭代法 算法描述: § 4 解线性代数方程组的共轭梯度法 § 4.1 最速下降法 § 4.2 共轭梯度(CG)算法 Numerical Analysis J. G. Liu School of Math. Phys. North China Elec. P.U. 直接法得到的解理论上是准确的，但是我们可以看得出，它们的计算量都是n3数量级，存储量为n2量级，这在n比较小的时候还比较合适（n400），但是对于现在的很多实际问题，往往要我们求解具有高阶系数矩阵的线性方程组，而且该矩阵往往是稀疏矩阵，即矩阵中含有大量的零元素。对于这类线性方程组，用直接法求解效率很低（不保稀疏性）。这就要求我们使用迭代法。 迭代法 构造一个向量序列，使它的极限是所求线性方程组的解向量。因此，即使计算过程是精确的，也不能通过有限步算术运算求得方程组的精确解，只能是逐步逼近！ 因此，迭代法需要考虑收敛性和精度控制问题！ 1、迭代法的构造及收敛性； 2、常用迭代算法; 3、超松弛迭代法（SOR); 4、共轭梯度(CG) 法。 主要内容： 下面考虑 事实上，令 ，则 ? 设 (1) 给定初值x(0)，可以构造序列 迭代格式 (2) 若 并且， (与初值x(0)的选取无关!) 所以， 序列收敛 (3) 定理1 迭代格式(2) 收敛 定义1 迭代法（2）的平均收敛速度定义为 。 由（3）式可得 引理 设A∈Rn×n，‖?‖为任一矩阵范数，则 注： 平均收敛速度与范数和迭代次数有关，计算不便！ 定义2 迭代法（2）的渐近收敛速度定义为 定理2 若 ，则 (1) 方程组(1)的解x*存在并且唯一； (2) 对迭代格式(2)有 并且 ① ② 下面给出迭代格式(2)收敛的一个充分条件及误差估计， 证明： (1) 非奇异 (2) 下证误差估计式， 由迭代公式(3) ①得证！ 注： 可作为迭代是否停止的判断条件！ 由①知可由 或 ②得证！ # 即 迭代格式收敛。 返回 迭代矩阵G的构造原则： 充分利用矩阵的稀疏性，使运算量和存贮量尽量少，办法就是使迭代矩阵G与原矩阵A有相同的稀疏结构。 具体构造方法: 令 其中 由 可以得到 1、Jacobi 迭代算法 令 可得： 从而可得Jacobi 迭代算法： 算法的分量形式为(具有并行性)： 若D非奇异， ——Jacobi迭代矩阵 2、Gauss-Seidel 迭代算法 从而可得Gauss-Seidel迭代算法： 算法的分量形式为(只能逐个元素进行计算) ： 也可写成如下形式： 易于编程实现 ——G-S迭代矩阵 迭代算法的收敛性： (1) Jacobi迭代算法收敛 (2) 若A按行（列）严格对角占优，则Jacobi迭代和Gauss-Seidel迭代收敛；# Jacobi迭代收敛； Gauss-Seidel迭代收敛； (3) (4) 若A为正定矩阵，则Gauss-Seidel迭代收敛。# 两种方法都存在收敛性问题，但两者的收敛性没有必然联系！ 有例子表明：Gauss-Seidel法收敛时，Jacobi法可能不收敛；而Jacobi法收敛时， Gauss-Seidel法也可能不收敛。 注: G-S迭代算法收敛 Jacobi迭代算法： 给定迭代初始向量x(0)，置迭代次数k=0，精度要求 和最大迭代次数N； 计算 ，k=k+1； (1) (2) 若 ，则停止计算（x(1)作为方程的解）； (3) 若 k=N，则停止计算（输出某些信息），否则x(0)=x(1)，转(1)； 注： 将 (1)中的迭代公式换作 即为G-S迭代的算法描述！ 1） 2） 通常取向量的无穷范数！ 返回 § 3 超松弛(SOR)迭代算法 设已得到 利用松弛技术对由高斯-赛德尔迭代进行加速： ( — 松弛因子)， — 超松弛迭代算法(SOR) 注： ω=1 时，即为Gauss-Seidel迭代算法。 SOR算法的分量形式(只能逐个元