第三章最佳逼近.ppt

第三章 最佳逼近 最佳逼近问题 函数的最佳平方逼近 数据拟合的最小二乘法 §1 最佳逼近问题 一、函数的逼近方法 二、连续函数的平方范数 §2 函数的最佳平方逼近 一、公式的推导 二、误差估计 *求连续函数最佳平方逼近的步骤* 三、正交基函数的选择 本节小结 §3 数据拟合的最小二乘法 三、数值例子 练 习 三 三次样条函数插值曲线 Lagrange插值曲线 一、 数据拟合最小二乘法的思想 已知离散数据： 假设我们要拟合的函数为 ，将 带入则得函数值 ，由于 的不准确性，在每一个点都会产生一个误差： 我们希望所求的f x ,使得其在每一个 处所产生的误差 达最小。 但这样分别考虑太困难，所以我们应考虑整体误差 应该使 整体达最小。 通过这种度量标准求得拟合曲线y f x 的方法，就称作曲线拟合的最小二乘法。 按照以上思想来求出f x 的拟合曲线，首先需要确定出f x 所属的函数类，然后进一步求出具体函数，具体按照以下步骤进行。 二、最小二乘法拟合曲线的步骤 第二步：根据图示，确定曲线所属的函数类型，例 如多项式函数类、三角函数类、指数函数 类、对数函数类等。假设所确定的函数类 的基函数为 第一步：根据如下已知点的坐标，在坐标系里描点 则所求的函数可以表示为： 只要确定了系数，就可以求出拟合曲线。 第三步：其整体误差 所求的解应该使的上式达到极小，由极值原理应有： 令： 这样由 及 求得 整理为 令 则有 这样就给出了求解 方程组： 同样称其为法方程组。求解法方程组，求得解 便得到最小二乘拟合曲线 为了便于求解，我们再对法方程组的写出作一分析。 得到法方程组第 j 行的元素为： 由 于是法方程组的系数矩阵为： 令右端第二个矩阵为： 则系数矩阵可以表示为： 再看法方程组的右端项： 由 得到 最后可以将法方程组表示为： 其中 这样会更快的写出法方程组来。 如果所求得最小二乘拟合函数为n次多项式，则： 这时： 误差： 例3.3 根据如下离散数据拟合曲线并估计误差 2 3 5 7 6 3 2 y 8 7 6 4 3 2 1 x 解 step1: 描点 1 2 3 4 5 6 7 8 7 6 5 4 3 2 1 * * * * * * * step2: 从图形可以看出拟合曲线近似的为一条抛物线： step3: 根据基函数给出法方程组 由 得到 即 又 求得 法方程组为： 解得： 求得拟合二次多项式函数 误差为： 先计算出拟合函数值： X : 1 2 3 4 6 7 8 P: 1.7272 4.0001 5.5002 6.2275 5.3637 3.7726 1.4087 得到： 或者： 解：在坐标轴描点 例3.4 根据如下离散数据拟合曲线并估计误差 -5 -2 - 1 0 3 2 4 yi 3 2 1 0 -1 -2 -3 xi 从离散点的图形上看不出原函数属于哪一类型，一般多采用多项式拟合，在此我们用二次多项式拟合。 根据如下离散数据给出法方程组 -5 -2 - 1 0 3 2 4 yi 3 2 1 0 -1 -2 -3 xi 这时 求得 得到法方程组 * * 关于函数的n次多项式逼近方法，已知有下面的几种： 1. Taylor展式： 如果 误差为 2. 插值多项式 同为n 次多项式，哪一个逼近效果更好呢？这时可以建立一个度量标准来进行度量。在所建立的度量标准之下，就可以给出最佳的n 次逼近多项式。 除了用多项式来逼近一个函数f x ,也可以用其它具有某种的特征的函数来逼近f x ，并求出其最佳逼近。 3. 最佳逼近问题 给定函数空间X 中的一个子集合 ，寻求X 中的 函数f x 在 中关于某个度量标准下的最佳逼近元 p x , 称作最佳逼近问题。 X 本章我们主要考虑连续函数空间X C[a,b]上的最佳逼近问题，这时的子集合 可以取为由具有某种共同特征的函数组成，例如三角函数、指数函数、分式有理函数、多项数函数等。 同时，还需要给出连续函数 空间上的一个度量标准，下面通过内积给出平方范数。 已知所有连续函数构成的集合C[a,b]是一个线性空间，对于C[a,b]中的任意函数 、 ，定义实数 可以证明此实数满足性质： 这时，称 为 与 的内积。 （1） ，当且仅当 ， ； （2） （3） 为函数 的平方范数， 且满足以下性质： 给出了函数的范数，便给出了函数的一个度量标准，在此度量标准之下，就可以找出 在不同函数类中的最佳逼近。下面就来考虑这一最佳逼近