解线性方程组迭代方法.pptVIP

定理9. 设A =( aij )n×n为实对称正定矩阵, b , x∈R n, 则 x 使二次函数 取极小值 ? x 是线性方程组 Ax = b的解。 证明: (1) u 是方程组 Ax = b 的解 ? Au – b=0. 任意 x∈R n, 令y = x – u ? (Ay, y)≥ 0 (2) 设 u 使 f (x) 取极小值. 任取非零 x∈R n, 任意 t∈R 令g(t) = f ( u + t x), 当t=0时, g(0)= f (u)达到极小值, 所以 , 即 ( Au – b , x ) = 0 ? Au – b = 0 所以, u 是方程组 Ax = b 的解. 最速下降法基本思想：从初值点x (0) 出发,以负梯度方向 r 为搜索方向，选择步长t1, 得 x (1) = x (0) + t1r, 求函数 f (x) 极小值 在 x 处，梯度方向是 f (x) 增长最快方向； 负梯度方向是 f (x) 下降最快方向。 梯度: 由f (x)的表达式，易知对于任意x (0) ∈Rn, f (x)在 x (0)处的负梯度方向为 记 r (0) = b- Ax (0)，即r (0)的方向就是负梯度的方向，也是 Ax = b 的对应于x (0)的残向量。若r (0) =0，则x (0)即为Ax