向量到子空间的距离最小2乘法.pptVIP

§9.7 向量到子空间的距离 §2 标准正交基　　　 §3 同构 §4 正交变换 §1 定义与基本性质 §6 对称矩阵的标准形 §8酉空间介绍 §7 向量到子空间的 　 距离─最小二乘法 第九章 欧几里得空间 §5 子空间 一、向量到子空间的距离 §9.7 向量到子空间的距离 二、最小二乘法 1、向量间的距离 长度 称为向量 和 的距离， 基本性质 （i） （ii） 并且仅当 的等号才成立； （iii）(三角形不等式) 一、向量到子空间的距离 定义 记为 2、向量到子空间的距离 (1) 设 为一固定向量 ，如果 与子空间 中 每个向量垂直， 称 垂直于子空间 记作 如果 则 注意 (2) 向量到子空间中的各向量的距离以垂线为最短. 如图示意，对给定 ，设 是 中的满足 的向量， 对 有 则 因 是子空间， 则 由勾股定理 证： 故 所以 二、最小二乘法 问题提出 实系数线性方程组 ① 即任意 ② 不等于零． 可能无解， 都可能使 设法找实数组 这样的 此问题叫最小二乘法问题. 使②最小, 为方程组①的最小二乘解 （least squares solution）， 最小二乘法的表示 设 ③ 用距离的概念，②就是 由③, 设　　　　　　　　　则 要找 使②最小，等价于找子空间 中向量 使 到它的距离 比到 中其它向量的距离都短. 设 这等价于 ④ 即 这样④等价于 ⑤ 为此必 或 这就是最小二乘解所满足的代数方程. 　　已知某种材料在生产过程中的废品率 与某种 化学成份 有关．下列表中记载了某工厂生产中 与相应的 的几次数值： 找出 对 的一个近似公式. 例1 把表中数值画出图来看，发现它的变化趋势 近于一条直线．因此我们决定选取 的一次式 来表达．当然最好能选到适当的 使得下面的等式 解： 都成立. 实际上是不可能的．任何 代入上面各式都发生 些误差.于是想找到 使得上面各式的误差的平方 和最小，即找 使 最小. 最小二乘解 所满足的方程就是 易知 解得 即为 §9.7 向量到子空间的距离