第七章__矩阵分解.ppt

令 ，则 这说明QR迭代实际上也是对 作QR分解。 可以证明，在一定条件下，迭代序列 基本收敛到上三角矩阵，即 这也说明QR迭代也可看成是对 作Schur分解。特别地，如果 是Hermite矩阵，那么上三角矩阵 变成三对角矩阵。 由于计算成本的缘故，数值实现时一般先将矩阵 变换成上Hessenberg矩阵 (第一条次对角线以下均为零的矩阵)，然后再使用QR迭代。 §3、矩阵的奇异值分解 从Beltrami（1873）和Jordan（1874）提出奇异值分解（SVD）至今，SVD及其推广已经成为矩阵计算中最有用和最有效的工具之一，并在最小二乘问题、最优化、统计分析、信号与图像处理、系统理论与控制等领域被广泛使用。 一、从几何观测说起 圆 经过变换 ，变成椭圆 。圆的正交方向 变成椭圆的长、短轴方向 假定矩阵 是列满秩矩阵。 一般地， 维空间中的单位球面 经过变换 变成超椭圆 。正交方向 变成超椭圆的主半轴方向 。称 的 个主半轴的长度 为 的奇异值， 对应的单位向量 为 的左奇异向量(left singular vector)，对应的原象 为 的右奇异向量。相应的空间称为奇异空间 二、矩阵的奇异值分解(SVD，Singular value decomposition) 前面已经指出： 矩阵形式为 这里矩阵 是列正交矩阵， 是酉矩阵。 这样就得到 的约化奇异值分解 同样地，将矩阵 扩充为 阶酉矩阵 ， 并令 ，则得 的完全奇异值分解 定理1　对任意矩阵 ，都存在一个完全奇异值分解 。并且奇异值 是唯一确定的。也就是任意矩阵酉等价于对角阵 从变换的角度理解，酉变换 保持球面不变 ，对角矩阵 将球面拉伸到一个有标准基的超椭圆，最后酉变换 旋转或镜射这个超椭圆，但不改变它的形状。因此 的求解为 三、由SVD导出的矩阵性质 此结论说明用SVD可以计算矩阵的秩（数值秩）. 定理2　对矩阵 ， 表示矩阵 的非零奇异值的数目，则 定理3　对矩阵 ， 表示矩阵 的 个非零奇异值，则 定理4　对任意矩阵 ，矩阵 的非零奇异值数目为 ， 为矩阵 的SVD分解，则 例 1 利用Gram-Schmidt方法将下列矩阵进行QR分解： 解： 所以 的QR分解为： Gram-Schmidt方法实质上是一种投影类方法，它将 正交投影到空间 。在标准Gram-Schmidt方法中， 是逐步计算出来的，需要计算 时，才用到 ，此前不需要改动 的值。遗憾的是Gram-Schmidt迭代方法在数值上是不稳定的。 Modified Gram-Schmidt方法的想法是每当产生一个新的 后，就重新计算所有的后续向量 ，消去其中包含的 成分（即与 平行的分量），从而使这些改变后的后续向量都与已计算出的 正交。因此它实质上也是投影类方法，是处理大规模矩阵问题的Krylov子空间投影类方法的基础。 幸运的是，一个简单修正就可以使问题得到改进，这就是Modified Gram-Schmidt（MGS）方法。 例 2 利用Modified Gram-Schmidt方法将下列矩阵进行QR分解： 解