最小二乘逼近.ppt

* §4 最小二乘逼近 4.1 一般的最小二乘逼近 讨论的问题: (4.1) 以下讨论最小二乘逼近函数 是否存在？是否唯一？及 计算方法（步骤）。 一、离散范数的基本定义 已知 关于点集 上函数值， （1）内积： （2）范数： （3） 正交 关于X线性无关，即是向量组 线性无关。 含m个方程的方程组 （4） 函数组的线性相关与线性无关 定义9 说明：这里定义的 的关系是否为内积、范数？需要 自己证 （1）内积： （2） 范数： 验证是否满足内积的三个条件或范数的三个条件，即 定理2/ 举例： 二、解决问题的思路： 把原问题转化为多元函数极值问题 (类似于连续函数的最佳平方逼近的思路)。 得到4.1的等价问题： 结论： （2）充分性 （1）必要条件 误差与基函数正交 (4.1) 定理8 定理9（最小二乘逼近） 定理9（最小二乘逼近） 注： 将(4.7)带入(4.6) , 合并得 事实上， （2）矩阵G为正定对称阵 注： 注： （3）计算方法 注： 注： (4) 用正交多项式作最小二乘逼近 4.3 用正交多项式作曲线拟合(计算方法) 已知y=f(x)的实验数据 1、计算方法(步骤): 于是当增加n时，有 优点： 当n增加时只须计算 ， 计算量小。 2、正交多项式的存在定理 定理10 已知点集 及权系数 , 则有关于X及 为正交多项式组 ,满足 下述三项递推公式： 即（1） 为首项系数是1的k次多项式。 （2） 4.4 非线性模型举例 1 用最小二乘法解矛盾方程组 已知y=f(x)实验数据 ,用较简单和合适 的函数来逼近（或拟合）实验数据。 假设选用n次插值多项式 n+1个未知量 m个方程 即 要满足 方程组的解不能唯一确定，因此，不能要求 由于 精确成立，而仅仅要求多项式尽可能接近 给定的数据。也就是要允许每个等式可以稍有偏差，但偏差又尽可 n+1m 能的小。 解法： 对矛盾方程组 作一辅助函数 a0,a1,…,an的 多元二次函数 --- 法方程 矛盾方程组 可写成矩阵形式： 事实上, 举例 用二次多项式来拟合函数 解 *