最小二乘法及基本原理和多项式拟合.docVIP

数 值 分 析 2013年月 同所给数据点 (i=0,1,…,m)误差 (i=0,1,…,m)的大小，常用的方法有以下三种：一是误差 (i=0,1,…,m)绝对值的最大值，即误差 向量的∞—范数；二是误差绝对值的和，即误差向量r的1—范数；三是误差平方和的算术平方根，即误差向量r的2—范数；前两种方法简单、自然，但不便于微分运算 ，后一种方法相当于考虑 2—范数的平方，因此在曲线拟合中常采用误差平方和来 度量误差 (i=0，1，…，m)的整体大小。 数据拟合的具体作法是：对给定数据 (i=0,1,…，m)，在取定的函数类中,求,使误差(i=0,1,…,m)的平方和最小，即 = 从几何意义上讲，就是寻求与给定点 (i=0,1,…,m)的距离平方和为最小的曲线（图6-1）。函数称为拟合 函数或最小二乘解，求拟合函数的方法称为曲线拟合的最小二乘法。 在曲线拟合中，函数类可有不同的选取方法. 6—1 2），多项式拟合 假设给定数据点 (i=0,1,…,m)，为所有次数不超过的多项式构成的函数类，现求一,使得 (1) 当拟合函数为多项式时，称为多项式拟合，满足式（1）的称为最小二乘拟合多项式。特别地，当n=1时，称为线性拟合或直线拟合。 ［显然 为的多元函数，因此上述问题即为求的极值 问题。由多元函数求极值的必要条件，得 (2) 即  (3) （3）是关于的线性方程组，用矩阵表示为 (4) 式（3）或式（4）称为正规方程组或法方程组。 可以证明，方程组（4）的系数矩阵是一个对称正定矩阵，故存在唯一解。从式（4）中解出 (k=0,1,…，n)，从而可得多项式  (5) 可以证明，式（5）中的满足式（1），即为所求的拟合多项式。我们把称为最小二乘拟合多项式的平方误差，记作 由式(2)可得 (6) 多项式拟合的一般方法可归纳为以下几步： (1) 由已知数据画出函数粗略的图形——散点图，确定拟合多项式的次数n； (2) 列表计算和； (3) 写出正规方程组，求出； (4) 写出拟合多项式。 在实际应用中，或；当时所得的拟合多项式就是拉格朗日或牛顿插值多项式。 3），最小二乘拟合多项式的存在唯一性 定理1 设节点互异，则法方程组（4）的解存在唯一。 证 由克莱姆法则，只需证明方程组（4）的系数矩阵非奇异即可。 用反证法，设方程组（4）的系数矩阵奇异，则其所对应的齐次方程组 （7） 有非零解。式(7)可写为 （8） 将式（8）中第j个方程乘以 (j=0,1,…，n)，然后将新得到的n+1个方程左右两端分别 相加，得 因为 其中  所以 (i=0,1,…,m) 是次数不超过n的多项式，它有m+1＞n个相异零点，由代数基本定理，必须有，与齐次方程组有非零解的假设矛盾。因此正规方程组（4）必有唯一解 。定理2 设是正规方程组（4）的解，则是满足式（1）的最小二乘拟合多项式。 证 只需证明，对任意一组数组成的多项式，恒有 即可。 因为 (k=0,1,…，n)是正规方程组（4）的解，所以满足式（2），因此有 故为最小二乘拟合多项式。 2 算法实现 在化学反应中，由实验测得分解物浓度与时间的关系如下表1所示 表1 浓度（y）与时间( t )的关系实验数据表 t 0 5 10 15 20 25 y 0 1.27 2.16 2.86 3.44 3.87 t 30 35 40 45 50 55 y 4.15 4.37 4.51 4.58 4.62 4.64 3思路解答 根据题设要求即根据所给数据求一未知的多项式拟合曲线，由于曲线未知，只能通过已知数据去确定待定的多项式参数，进而使数据尽可能的逼近所求曲线．最后再通过总误差比较，取最小误差对应多项式即可．不妨设所求多项式为 [fiv]　， 式中表示多项式的最高次数． 说明：表格(1)中是题设给定的函数值，f0，f1，f2，f5，f9分别表示拟合多项式最高次数m=1,2,3,6,10时的拟合值．由于数据不是很多，可以直接用最小二乘法找出最好的拟合曲线．具体就是比较总误差的大小，然后取误差最小的那条拟合曲线即可．当然，可根据均方差和偏差G= 。计算求得．同时根据法方程组 或者多项式公式  ，可求出其多项式系数 i ti yi ti^2 tiyi ti^3 ti^4 ti^5 ti^6 ti^2yi ti^3yi 0 0 0 0 0 0 0 0 0 0 0 1 5 1.27