第2章解线性代数方程组的迭代法.doc

第二章 解线性代数方程组的迭代法 2.1 引 言 在许多实际问题中，常常需要求解这样的线性代数方程组，它的系数矩阵数很高，但非零元素很少，人们称其为大型稀疏线性代数方程组，对于这类方程组，如果它又不具有带状性，那么，再用直接法求解就不太有效，因为用直接法进行消元或矩阵的三角分解时，没有考虑到系数矩阵的稀疏性，破坏了系数矩阵的形状，导致了计算量的增加和存储单元的浪费，于是，人们常用迭代法求解大型稀疏线性代数方程组。迭代法只需要存储系数矩阵的非零元素，这样，占用内存在单元较少，能解高阶线性代数方程组。由于迭代法是通过逐次迭代来逼近方程组的解，因此，收敛性和收敛速度是构造迭代法时要注意的问题。那么，是否可以构造一种适用于一般情况的迭代法呢？回答是否定的，这是因为不同的系数矩阵具有不同的性态，一般地，每一种迭代法都具有一定的适用范围，在本章的学习中将会看到，有时，某种方法对一类方程组迭代收敛，而对另一类方程组进行迭代时就会发散。因此，我们应该学会针对具有不同性质的线性代数方程组，构造合适的迭代方法。 本章主要介绍一些基本的迭代法，并在一定的范围内讨论其中几种方法的收敛法。 2.2 基本迭代法 考虑线性方程组 （2.1） 采用矩阵和向量记号，我们可以把（2.1）式写成 , （2.2） 其中，为非奇异矩阵，设。 下面我们介绍雅可比（Jacobi）迭代，高斯-塞德尔（Gauss-Seidel）迭代与SOR迭代以及SSOR迭代的基本思想和算法。为了方便地给出矩阵表示式，我们引进下列矩阵分裂： （2.3） 其中 （1）雅可比迭代的基本思想 从式（2.1）的第i个方程中解出： 我们把迭代前面的值代入上式右边，由计算得到等式左边的值作为一次迭代的新值，然后再把这个新值代入右边，再从左边得到一个新值，如此反复，就得到了雅可比迭代公式。 算法2.1 雅可比迭代法。 选定初值，对计算 （2.4） 由式（2.4）及采用矩阵A的分裂记号式（2.3），可以得到 , 于是得到雅可比迭代的矩阵表示形式： . （2.5） （2）高斯-塞德尔迭代的基本思想 在用雅可比迭代式（2.4）计算第i个新分量时，前个分量已经更新，与雅可比迭代法相比，高斯-塞德尔迭代是把更新过的分量代替式（2.4）第i个方程右端中的，于是，得到高斯-塞德尔迭代公式： 算法2.2 高斯-塞德尔迭代法。 选定初值，对，计算 （2.6） 由式（2.6）及采用矩阵A的分裂记号式（2.3），可以得到 ， 于是得到高斯-塞德尔迭代的矩阵表示形式： . （2.7） （3）SOR迭代的基本思想 在高斯-塞德尔迭代式（2.6）中，第i个迭代分量可以改写成 上式等号右端的第二项可以看成是校正量，高斯-塞德尔迭代法相比，SOR迭代是把这个校正量乘上一个因子，于是得到SOR迭代公式。 算法2.3 SOR迭代法。 选定初值，对，计算 由上式及采用矩阵A的分裂记号式（2.3），可以得到 , 于是得到SOR迭代的矩阵表示形式： . (2.8) 称为松弛因子。 （4）SSOR迭代的基本思想 在SOR迭代过程中，新向量的分量计算依次从第1到第n逐个进行，这个次序也可以倒过来，即 如果两种次序的SOR迭代过程交替使用，就可以得到SSOR迭代公式。 算法2.4 SSOR迭代法。 选定初值，对，计算 由上式及采用矩阵A的分裂记号式（2.3），可以得到 从上面的第一式解出后，再化简可得 例2.1 试用雅可比迭代法、高斯-塞德尔迭代法、SOR迭代法以及SSOR迭代法计算线代数方程组 取初值为，精确到（精确）。 解 构造雅可比迭代：，计算 迭代到第43次结果为 构造高斯-塞德尔迭代：对，计算 迭代到第22次结果为 构造SOR迭代：对，计算 当取不同值时的迭代结果为 ； ； ； ； ； ； ； ； ； 。 构造SSOR迭代：对，计算 当取不同值时的迭代结果为 ； ； ； ； ； ； ； ； ； 。 2.3 范数及方程组的性态、条件数 由于迭代法是通过迭代来逼近精确的，于是近似解向量与精确解向量之差趋于零的收敛速度就是迭代法最为关心的问题，为了讨论迭代法的收敛性，我们需要引衡量向量和矩阵大小的度量概念——向量范数和矩阵范数。 首先给出向量范数的定义： 定义2.1 对任意的向量，若对应一个非负实值函数，且满足： （1）正定性：，等号当且仅当时成立； （2）齐次性：对任意实数； （3）三角不等式：，则称为向量x的范数或模。 在下面的例子中，给出了三个常用的向量范数： 例2.2 设，试证 ， ， ， 满足向量范数定义中的三个条件，它们分别称为向量2范数、1范数和无穷范数。 证明 我们仅对向量2范数进行证明，向量1范数和向量无穷范数的证明