Least Squares Problems.ppt

曲线拟合的最小二乘法 最小二乘原理 当由实验提供了大量数据时,不能要求拟合函数 在数据点 处的偏差,即 (i=1,2,…,m) 严格为零,但为了使近似曲线尽量反映所给数据点的变化趋势 ,需对偏差有所要求.通常要求偏差平方和 最小,此即称为最小二乘原理 最小二乘法的求法 * Least Squares Problems 问题的提出 插值法是使用插值多项式来逼近未知或复杂函数的，它 要求插值函 数与被插函数在插值节点上函数值相同 ，而在其他点上没有要求。在非 插值节点上有时函数值会相差很大 。若要求在被插函数的定义区间上， 所选近似函数都能与被插函数有较好的近似，就是最佳逼近问题。 最佳逼近是在函数空间 M中选 P(x) 满足 但由于绝对值函数不宜进行分析运算,常将上式化为 来讨论 ，于是最佳逼近问题变为最佳平方逼近问题 ,而离散的最佳平方逼 进问题就是常说的曲线拟合 它们都可用最小二乘法求解。 给定一组测量或观测值 假设y是n个函数的线性组合 设m×n矩阵X定义为 所以 β=X\y 用矩阵表达： 1、求逆的过程困难 2、 写成矩阵形式为： 其中， 直线： 多项式： 有理函数： 指数： Log-linear: Gaussians: 正交多项式 付立叶级数，函数系 1,cosx,sinx,cos2x,sin2x,…cosnx,sinnx,… 中，由于任意两个函数乘积在区间[-?，+?]上的积分都等于零，则说这个函数系在[-?，+?]上是正交的，并称这个函数系为正交函数系。 下面给出正交函数系 定义：设函数f(x),g(x)?[a,b],且 则称f(x)与g(x)在[a,b]上带权?(x)正交, 评注:最小二乘法方曲线拟和是实验数据处理的常用方法。最佳平方逼近可以在一个区间上比较均匀的逼近函数且具有方法简单易行，实效性大，应用广泛等特点。但当正规方程阶数较高时，往往出现病态。因此必须谨慎对待和加以巧妙处理。有效方法之一是引入正交多项式以改善其病态性。 在[a,b]上连续的函数?0(x), ?1(x), ?2(x),... ?k(x)..., 满足 则称该函数系是在区间[a,b]上带权?(x)正交函数系. 下面介绍与上述定义有关的几个概念，然后引出正交多项的概念，最后再介绍正交多项式的性质以及几种常见的正交多项式。 1.权函数:(1)设[a,b]是有限或无限区间, ?(x)是定义在[a,b]上的非零可积函数，若其满足 则称?(x)是[a,b]上的一个权函数。 2 内积与范数 设f(x),g(x)?[a,b], ?(x)是[a,b]上的一个权函数，称 为f(x)与g(x)在为 [a,b]上以权函数?(x)的内积。 显然，对于任意实数a,b,有 称 为f(x)的带权?(x)的2—范数。 正交多项式的性质 定理1 [a,b]上带权?(x)的正交多项式系{gn(x)}一定是 [a,b]上线性无关的函数系。 定理2 设是{gn(x)}[a,b]上带权?(x)的正交多项式系，则对于任何次数不高于n-1的多项式q(x),总有 (q(x), gn(x))=0 ( n=1,2,…） 定理3 n次正交多项式gn(x)有n个互异定根，且全部若在(a,b)内。 定理4:任何相邻的三个正交多项式,都具有下列递推关系式 gn+1(x)=(?nx-?n)gn(x)-?n-1gn-1(x) 勒让德多项式(Legendre) [-1,1] , ?(x)=1 递推关系: P0(x)=1, P1(x)=x, 常见的正交多项式 勒让德多项式(Legendre) 切比雪夫多项式(Chebyshev) 拉盖尔多项式(Laguerre) 埃尔米特多项式 (Hermite) Tn(x)=cos(narccosx) 切比雪夫多项式(Chebyshev) 递推关系: T0(x)=1 , T1(x)=x , T2(x)=2x2-1 , T3(x)= 4x3-3x,……… 拉盖尔多项式(Laguerre) [0,+?), ?(x)=e-x 埃尔米特多项式 (Hermite) (-? ,+?), ?(x)=e-x2 p = 1e4*[ ]; t = (1949:1:2005); x = (1940: 0.2 :201