第十一讲_数据拟合与线性最小二乘拟合.pptVIP

数据拟合与线性最小二乘法 * 数据拟合与线性最小二乘法 张兴元 2003.04 1．曲线拟合的提法与求解思路 1）.提法 曲线拟合问题的提法是，已知一维（二维）数据，即平面上的n个点(xi，yi)，i=1,2,…,n，xi互不相同，寻求一个函数(曲线) y=f(x) ，使f(x)在某种准则下与所有数据点最为接近，即曲线拟合的最好，如下图所示(图中δi为(xi，yi)与y=f(x)的距离)。 2）.求解思路 线性最小二乘法是解决曲线拟合最常用的方法。 基本思路是，令 f(x)=a1r1(x)+a2r2(x)+…+amrm(x) (1) 其中rk(x)是事先选定的一组函数，ak是待定系数(k=1,2,…,m，mn)。拟合准则是使n个点(xi，yi)，i=1,2,…,n，与y=f(xi)的距离δi 的平方和最小，称为最小二乘准则。 O x y δi (xi，yi) 2．线性最小二乘法 1）.理论———基本理论之ak的确定 根据最小二乘准则，记 J(a1，a2，…，am)= 为求a1，a2，…，am是J达到最小，只需要利用极值的必要条件 得到关于a1，…，am的线性方程组 2．线性最小二乘法 记 ，A=(a1，a2，…，am)T，y=(y1，…，yn)T， 方程组(3)可表为 RTRA=RTy (4) (4)称为法方程组，当{r1(x)，…，rm(x)}线性无关时，R列满秩，RTR可逆，于是方程组(4)有唯一解 A=(RTR)-1RTy (5) 可以看出，只要f(x)关于待定系数a1，…，am线性，在最小二乘准则（2）下得到的方程组(3)关于a1，a2，…，am也一定是线性的，故称线性最小二乘法。 2．线性最小二乘法 2) 理论______函数rk(x)的选取 面对一组数据(xi，yi)，i=1,2,…,n，用线性最小二乘法作曲线拟合时，首要的、也是关键的一步是恰当地选取r1(x)，r2(x)，…，rm(x)。 ???? 如果通过机理分析，能够知道y与x之间应该有什么样的函数关系，则r1(x)，…，rm(x)容易确定。 若无法知道y与x之间的关系，通常可以将数据(xi，yi)，i=1,2,…,n作图，直观地判断应该用什么样的曲线去作拟合。人们常用的参数曲线有 u????? 直线y=a1x+a2 u????? 多项式 y=a1xm+…+amx+am+1 (一般m=2,3,不宜过高) u????? 双曲线（一支） y=a1/x+a2 u????? 指数曲线 对于指数曲线，拟合前需作变量代换，化为对a1，a2的线性函数。 已知一组数据，用什么样的曲线拟合最好，可以在直观判断的基础上，选择集中曲线分别作拟合，然后比较，看那条曲线的最小二乘指标J最小。 2．线性最小二乘法 3）求解方法 （1）??描出数据的图示； （2）??观察并选择不同的数学模型进行拟合； （3）?比较多种拟合结果，选择其中较好的一种或者某几种作为备选结果； 注意：通常需要将非线性函数rk(x)的转化成线性的函数Rk(x)， 然后再用Rk(x)进行拟合，计算中通常需要列下表： i 0 1 … n xi x0 x1 … xn yi=f(xi) y0 y1 … yn R1(x) R1(x0) R1(x1) … R1(xn) ……………… Rm(x) Rm(x0) Rm(x1) … Rm(xn) 这样就容易确定出法方程组RTRA=RTy。上表中后面的m行即为RT。 2．线性最小二乘法 3）.算例 例 给定数据(xi，f(xi))，i=0,1,2,3,4，见下表，使选择适当的模型，求最小二乘拟合函数g(x)。 i 0 1 2 3 4 xi 1.00 1.25 1.50 1.75 2.00 f(xi) 5.10 5.79 6.53 7.45 8.46 Yi=lnf(xi) 1.629 1.756 1.876 2.008 2.135 解：（1）、先描出数据的图示 2．线性最小二乘法 （2）选定不同的数学模型或者rk(x)进行拟合 ???直线模型 y=a+bx 选取线性函数模型，选取Y=a+bx，此时，r1(x)=1，r2(x)=x。要求 Y=a+bx与(xi，yi)，i=0,1,2,3,4，做最小二乘拟合，Yi=f(xi)。 列表计算如下： i 0 1 2 3 4 xi 1.00 1.25 1.50 1.75 2.00 Yi=f(xi) 5.