线性方程组求解方法概述及发展趋势.docxVIP

线性方程组求解方法概述电气与自动化工程学院 曾林 1014203020求解线性方程组是许多科学与工程计算中最基本的问题。本文主要介绍了线性方程组求解的直接法和迭代法。直接法直接法是通过对系数矩阵进行变换，如Gauss消元的LU方法、Chelsey分解、QR分解等，将原方程组化为三角或三对角等容易求解的形式，然后通过回代获得方程组的解。特别地对于LU方法，一般将消元称作“追”，回代称作“赶”，因此又称之为“追赶法”。对于中小规模的稠密线性方程组的求解(如的阶数n不超过1000，直接法能在确定的有限步下相对精确地求解出任何非奇异方程组的解，因此直接法对适度规模问题求解是有效的。可是，当是大型稀疏矩阵，A的大多数元素为零。对于是不规则结构的稀疏矩阵时，稀疏线性问题求解的消元过程中将会让矩阵产生的大量的非零“填充”元，这样也就破坏了矩阵的稀疏性。特别当很大时，直接法在矩阵存储上要耗费巨大的内存空间，增大了算法的空间复杂度，并且求解时间也相对更费时，也就是说同时也相应增大了算法的时间复杂度。在精确运算下，直接法的优点是可以估算出确定有限步求出精确解；缺点是对于大型的不规则稀疏结构矩阵在求解过程中会产生大量的的非零“填充”元，破坏了的稀疏性，从而也增大的算法的空间和时间上的复杂度。对于对角与上三对角线性方程组的求解，因为其对应的左端矩阵是规则的稀疏矩阵，利用LU、OER、RCD等算法能够很好地保持矩阵的稀疏性，因此是此类的直接法求解的算法还是有效的算法。另外，对于带状矩阵线性方程组的求解，是常常将其带状矩阵转化为块三对角矩阵，所以此问题就转化成为了块三对角线性系统求解问题。随着线性方程组的规模的增大，直接法所需的存储容量和求解时间急剧增大很快超出人们可接受的范围。因此也就通常难以应用直接法而寻求迭代法来求解大型的稀疏线性方程组了。迭代法迭代法是从上世纪后半叶逐步发展和成熟起来的。二十世纪的迭代法经历了一个飞跃式的发展，期间涌现了一大批关于迭代法的优秀专著，包括Saad，Vander Vorst。不仅综述了上世纪迭代法发展的突出成就，而且精妙地阐述了迭代法之间的相互关系。迭代法一般可以表述为中是从l个到空间空间上的算子，称作迭代算子。为给定的迭代初值。如果迭代算子与迭代次数无关。即则迭代式为定常迭代法，否则称之为非定常迭代法。求解线性方程组：其中为已知的左端系数矩阵，，为已知的右端向量，，为待求的未知向量。运用校正技术处理上述方程组，对于给定的初始猜测值由于考察如下形式校正方程即令校正方程式中为的某个近似矩阵，由此可以得到从而改进值为这里的关键问题是如何选取矩阵疋按校正的基本原理，要求近似，并且求逆即校正方程的求解比较容易。经典的迭代方法简单迭代法对方程，取单位矩阵为近似矩阵这时的迭代求解式子就特别简单，有如下形式雅可比迭代法假定有A=L+D+U,L,D,U上分别是对应于左端矩阵的下三角、对角与上三角矩阵。则对于校正方程，取单位矩阵为近似矩阵，这时的迭代求解式子就又有如下形式也可表示为这就是雅科比迭代法迭代式高斯塞德尔法而用取三角矩阵这时的迭代式则有形式整理后得到如下形式：超松驰迭代法考察迭代过程：将其前后两个迭代值通过适当的加权平均得到解的更好的近似值：这就是迭代法加速的松弛方法基于Krylov子空间的迭代方法20世纪后半叶，迭代法的标志性发展就是Krylov空间方法的诞生。子空间下的迭代法是属于非定常迭代法，可表述如下：式中为由从出发构造的m维Krylov子空间，其中为初值为初始残量。最早的也是最具有划时代意义的Krylov子空间方法开始于共轭梯度法(CG)。分别由Hestenes与Stiefel几乎同时在1952年独立以两种不同形式给出的。各种基于子空间下的迭代法的详细描述见参考文献。下面给出三种基本的基于子空间下的迭代算法:最小残差法（MINRES）共轭梯度法（CG）预优共轭梯度法算法(PCG)⑶GaBp方法算法最早是在2008年提出的,GaBP算法是一种针对对称对角占优线性方程组的迭代算法，它不同于经典的迭代算法，也不同于Krylov子空间算法它是利用信息传播理论和概率论方法将求解线性方程组的问题转换成为max,exp()的求解问题。GaBP算法对于对称对角占优线性方程组的求解具有良好的收敛性，且其本质上等价于经典的消元法。为了解决许多科学与工程问题，常用利用有限元方法、有限差分方法、谱方法等数值方法都是将其实际问题转换成为稀疏线性方程组求解的问题，特别地利用有限元方法转化的稀疏线性方程组常常是对称对角占优的线性方程组，。因此利用算法来求解实际的科学与工程问题变得特别有意义。本文概述了求解线性方程的直接法和迭代法。并对这两大类方法中的各种变形进行了介绍。