数值最优化1.ppt

定理3. , 其中||·||为向量的任一种范数. 定义3. 设{x(k)}为Rn中一向量序列, x*?Rn, 记 x(k)=(x1(k),?,xn(k))T, x*=(x1*,?,xn*)T. 如果 则称x(k)收敛于x*. 记为 下面我们将向量范数概念推广到矩阵上去. 可以将Rn×n中的矩阵A=(aij)nn当作n2维向量, 则由向量的2-范数可以得到Rn×n中矩阵的一种范数 称为A的Frobenius范数. ||A||F显然满足正定性、齐次性及三角不等式. 下面我们给出矩阵范数的一般定义. 定义4.(矩阵的范数) 如果矩阵A?Rn×n的某个实值函数N(A)=||A||，满足条件: (1) ||A||? 0 (||A||=0当且仅当A=0) (正定性)； (2) ||cA||=|c| ||A||, c为实数 (齐次性)； (3) 对任意A,B有||A+B|| ? ||A||+||B|| (三角不等式) (4) 对任意A,B有||AB|| ? ||A|| ||B|| (相容性)； 则称 N(A) 是Rn×n上的一个矩阵范数(或模). 上面我们定义的F(A)=||A||F就是Rn×n上的一个矩阵范数. 上述条件(即不等式)就称为矩阵范数与向量范数的相容性条件. 由于在大多数与估计有关的问题中, 矩阵和向量会同时参与讨论, 所以希望引进一种矩阵的范数, 它是和向量范数相联系而且和向量范数相容的, 即对任何向量x?Rn及矩阵A?Rn×n都成立 ||Ax||≤||A|| ||x||. 为此我们再引进一种矩阵的范数. 定义5.(矩阵的算子范数) 设x?Rn, A?Rn×n, 给出一种向量范数||x||v(如v=1,2或?), 相应地定义一个矩阵的非负函数 可验证||A||v满足定义4, 所以||A||v是Rn×n上矩阵的一个范数, 称为A的算子范数. 定理4. 设||x||v是Rn上的一个向量范数, 则||A||v是Rn×n上矩阵的范数, 且满足相容条件 显然这种矩阵的范数||A||v依赖于向量范数||x||v的具体含义. 也就是说, 当给出一种具体的向量范数||x||v时, 相应地就得到了一种矩阵范数||A||v. 定理5. 设x?Rn, A=(aij)?Rn×n, 则有常用的算子范数 （称为A的行范数）, （称为A的列范数）, （称为A的2-范数）. 其中?max(ATA)表示ATA的最大特征值, 由于矩阵2-范数与ATA 的特征值有关，所以又称为A的谱范数. 例. 求矩阵A的各种常用范数 解: 由于 特征方程为 容易计算 计算较复杂 对矩阵元素的 变化比较敏感 不是从属范数 较少使用 使用最广泛 性质较好 Jaco