第5章 曲线拟合的最小二乘法.pptVIP

第5章 曲线拟合的最小二乘原理 线性拟合 最小二乘法 多项式拟合 一般基函数的曲线拟合 5.1 线性拟合 引入: 对给出的一组离散的测量数据(x0,y0)、(x1,y1)、……(xn ,yn)，要确定x、y 之间的函数关系 方法有二： 插值法：第5章内容 曲线拟合法：要构造的函数φ(x)： 不要求φ(x)过所有的点?消除测量误差的影响 尽可能地反映数据的变化趋势，尽量靠近这些点对 则称φ(x)为拟合公式（函数）、经验公式 ＝?如何构造φ(x)？ ＝?如何度量φ(x)对各个测量点（基点）的逼近程度 线性拟合：观测测量所得的数据，发现数据点的分布大致呈一条直线，故可用一条直线来逼近（拟合）测量数据对中（x,y)之间的关系。 确定拟合直线，就是确定直线的两个参数： y=a0+a1x 将数据对带入方程中， 解之即可确定a0,a1 从几何上来讲：即要解决如何选择直线 ,使测量点均匀分布在直线两旁，并且满足残差在某种程度下最小 记残差为： 要使残差： δ =（δ0, δ 1,…. δ n）总体最小，可采用向量的范数进行度量，即： || δ||1 || δ||2 || δ||∞ 为方便计算起见，通常取2-范数的平方，即： || δ||22 = J(a0,a1)=∑(δ i)2= ∑(a0+a1xi-yi)2 取最小值 使 误差的平方和最小（即J(a0,a1)取得最小值）的a0，a1所确定的直线 ， 称为最小二乘拟合直线，a0、a1也称为方程组（*)的最小二乘解 据拉格朗日定理，若J(a0,a1)取极小值，则有： 超定方程组（*)的近似解可通过在两边同乘以CT，得到方程组（3），又方程组（3）与方程组（1）等价，因此方程组（1）的解即为方程组（*）的近似解 故线性拟合给出了求解超定方程组近似解的方法 实例： p169: 5-1 解题步骤： 画出实验数据的散点图 根据经验确定拟合函数 构造拟合函数的法方程组，并求解，确定拟合参数 5.2 一般基函数的曲线拟合 一般曲线拟合：取基函数为n+1个线性无关的函数{ φ0(x), φ 1(x), φ 2(x),…… φ n(x)} ，则拟合函数为基函数的线性组合，即： y=a0 φ 0(x)+a1 φ 1(x)+…+ am φ m(x) （*) 将测量点对(x0,y0),(x1,y1),….(xn,yn)代入（*），得到一个矛盾方程组，无一般意义上的解。 要确定拟合公式的系数ai，使得误差∑ri2= ∑(yi- ∑ ak φ k(xi))2最小。仍然采用多元函数极值的必要条件，得到方程组(*)的正规方程组 令J(a0,a1,…,an) = 即有方程组（*）对应的正规方程组为： 其中 （φi, φ j)：表示点集函数的内积 用第3章方法解正规方程组（**)即可求得a0,a1,…an 5.3 超定方程组的最小二乘解 设有线性方程组：Am×nx=ym （1） mn，为超定方程组，一般无解 可求得一个近似解x，使得Ax-y近可能地?0，即解向量xT=(x1,x2,……xn)，要使得误差向量 r=Ax-y最小。即： 则称此近似解向量为Ax=y的最小二乘解 又： 方程（2）称为正规方程组（法方程组、回归方程组） 故方程（2）的解即为方程（1)的最小二乘解 若R( A )=n（系数矩阵列满秩） 则R(ATA)=n 故方程（2）有唯一解，且该解为（1）的最小二乘解 算法思想：求解超定方程组Cx=y的最小二乘解 确定超定方程组Ax=y Ax=y方程两边同乘以AT，得到对应的正规方程组ATAx=ATy 利用 第 3 章 的算法求解正规方程组ATA x=ATy 正规方程组的解即为Ax=y的最小二乘解 实例:求超定方程组Ax=b的最小二乘解（近似解） 解： 5.4 多项式拟合 多项式拟合：观察所得测试点，若近似于一条n次曲线，则可用n次多项式（mn)拟合数据点 多项式拟合实质：采用基函数 { 1,x,x2,…xn } 的线性组合来近似未知函数 设拟合多项式为：y =a0+a1x+…+anxn （1） 要确定(1)的系数，则可将测试数据对代入方程（1)中，得到如下的线性方程组： 方程组（2）也为超定方程组（mn)，故只有最小二乘解 且其最小二乘解即为方程组：CTC a=CTy的解，其中： 则方程组（2）的正规方程组系数阵为 也可