数值分析第3章解线性方程组的迭代方法.pptVIP

迭代法研究的主要问题 1）迭代格式的构造； 2）迭代的收敛性分析； 3）收敛速度分析； 4）复杂性分析；（计算工作量） 5）初始值选择。 一、简单迭代思想 设矩阵A可逆，把矩阵A分裂为 则 三、Gauss-Seidel 迭代法 假设 宝山壁画 宝山壁画是引人注目的昂贵文物。此壁画发现于阿鲁科尔沁旗东沙布乡境内。1994年列为“全国十大考古新发现”之一。宝山壁画中最引人注目的是《杨贵妃教鹦鹉图》。该画高0.7米、宽2.3米，用于笔重彩绘制，最突出的表现了 晚唐风格。唐代擅长绘贵妇仕女的大师周昉绘制了《杨贵妃教鹦鹉图》，不仅享誉中原，而且还影响全国各地。发现于阿旗宝山古墓里的这幅画，就是契丹人聘请中原画家按照周氏风格绘制的， 技法深得周氏画风的真传。在唐人真迹稀如星风的今天，能够从中完整了解唐代人物画的杰出成就，堪称美术史研究的辛事。这幅壁画现今保存在阿鲁科尔沁旗博物馆，历经千年，恍如新绘，是该馆的镇馆之宝。 欢迎大家观看！ 定理9. 设A =( aij )n×n为实对称正定矩阵, b , x∈R n, 则 x 使二次函数 取极小值 ? x 是线性方程组 Ax = b的解。 证明: (1) u 是方程组 Ax = b 的解 ? Au – b=0. 任意 x∈R n, 令y = x – u ? (Ay, y)≥ 0 (2) 设 u 使 f (x) 取极小值. 任取非零 x∈R n, 任意 t∈R 令g(t) = f ( u + t x), 当t=0时, g(0)= f (u)达到极小值, 所以 , 即 ( Au – b , x ) = 0 ? Au – b = 0 所以, u 是方程组 Ax = b 的解. 最速下降法基本思想：从初值点x (0) 出发,以负梯度方向 r 为搜索方向，选择步长t1, 得 x (1) = x (0) + t1r, 求函数 f (x) 极小值 在 x 处，梯度方向是 f (x) 增长最快方向； 负梯度方向是 f (x) 下降最快方向。 梯度: 由f (x)的表达式，易知对于任意x (0) ∈Rn, f (x)在 x (0)处的负梯度方向为 记 r (0) = b- Ax (0)，即r (0)的方向就是负梯度的方向，也是 Ax = b 的对应于x (0)的残向量。若r (0) =0，则x (0)即为Ax = b的解，若r (0) ≠0 ，则从x (0)出发，沿r (0)方向的x为： 其中α为参数，这里x 表明在 r(0)方向上以α 为步长，对x(0) 做了一次修正，为确定α ，使函数 取最小值。 令 解得： 又 所以，α= α0 时f (x)取最小值，令x (1) =x (0) +α0 r (0)，从x (1)出发沿f (x)在x (1)处的负梯度方向r (1) = b-Ax (1)上求使 f (x)的值最小的点，记为x (2)，则 x (1) = x (0) +α0 r (0) 继续下去则得迭代格式： 结论1：第m+1次和第m 次负梯度方向是正交的，即 (r (m+1) , r (m) ) = 0 结论2：最速下降法有误差估计式 这里λ1 和λn 为A 的最大和最小特征值，||·||A 定义为 注：由结论2可以看出，当λ1 和λn 相差较大时，最速下降法收敛缓慢。 六 共轭梯度法 A是n阶对称正定矩阵,非零向量 p1, p2∈Rn ▲ n个向量 p1, p2 ,···, pm 共轭概念: (Api , pj )=0 (i≠j; i, j = 1,2,···,m ) 非零向量 p1, p2 ,···, pm ∈Rn p1, p2 ,···, pm 关于A共轭 ? p1, p2 ,···, pm 线性无关 (Ap1, p2)=0 ▲ 两个向量 p1, p2 共轭: 共轭梯度法基本思想：由最速下降法中的下降向量{r (k) }构造出关于A—共轭向量组{ p (k) }，并以 p (k)作为下降方向来构造迭代算法。 定理10. A是n阶对称正定矩阵, p(1), p(2) ,···, p(n) 是关于A共轭的向量组, 任取 x (0)∈R n , 计算 tk = ( b – Ax (k -1) , p(k)) / (A p(k) , p(k) ) x (k) = x (k – 1) + tk p(k) ( k = 1,2,···, n ) 则有 Ax(n) = b。即最多迭代 n 次就可得到方程组的精确解。 第一步: 取初值 x (0)∈Rn , ?0, 计算 r ( k -1) = b – Ax (0) ,