第六章函数逼近..docVIP

????????????????? 第六章 函数逼近/shuzhifenxi/index.htm??? 第一节?曲线拟合的最小二乘法问题的背景???? 通过观测、测量或试验得到某一函数在x1?,x2?,…,xn?的函数值. 我们可以用插值的方法对这一函数进行近似,而插值方法要求所得到的插值多项式经过已知的这n个插值结点;在n比较大的情况下, 插值多项式往往是高次多项式, 这也就容易出现振荡现象:虽然在插值结点上没有误差,但在插值结点之外插值误差变得很,从“整体”上看,插值逼近效果将变得“很差”. 于是, 我们采用数据拟合的方法.?定义1 数据拟合就是求一个简单的函数φ(x), 例如是一个低次多项式,不要求通过已知的这n个点，而是要求在整体上“尽量好”的逼近原函数,这时在每个已知点上就会有误差yk?-φ(xk?),(k=1,2,…,n),数据拟合就是从整体上使误差yk?-φ(xk)?,(k=1,2,…,n), 尽量的小一些.?如果要求:?达到最小,因误差yk?-φ(xk)可正可负?本来很大的误差可能会正负抵消,这样的提法不合理,为防止正负抵消,可以要求:达到最小,但是由于绝对值函数不可以求导,分析起来不方便,求解也很难. 为了既能防止正负抵消，又能便于我们分析、求解，提出如下问题：求一个低次多项式φ(x)?,使得:?达到最小,此问题便是一个数据拟合的最小二乘问题.???? 一、直线拟合 (一次函数)???? 通过观测、测量或试验得到某一函数在x1?,x2?,…,xn?的函数值：y1?,y2?,…,yn?,即得到n组数据(x1?,y1?),(x2?,y2?),…,(xn?,yn?),如果这些数据在直角坐标系中近似地分布在一条直线上,我们可以用直线拟合的方法.?已知数据(x1?,y1?),(x2?,y2?),…,(xn?,yn?),求一次多项式φ(x)=a+bx(实际上，就是求a,b), 使得:????????（1）达到最小.?注意到Q(a,b)中,xk?,yk?均是已知的,而a,b是未知量,Q(a,b)是未知 量a,b的二元函数,利用高等数学求二元函数极小值(最小值)的方法，上述问题转化为求解下列方程组: ??????的解.? 由?得????????因为?得到如下的正则方程组:???????(3)这是个关于a,b的二元一次方程组,称其为最小二乘问题的正则方程组 解得a,b,便得到最小二乘问题的拟合函数 .???? 例1 已知10对数据如下表,利用最小二乘法求拟合曲线y=a+bx?.?????????解：先列表来计算四个 ????? 形成所谓正则方程组:???????解得a=6.4383，b=-0.7877于是，最小二乘拟合一次函数为?y=6.4383-0.7877x???? 二、多项式拟合???? 已知一组数据对(xi?,yi?),(i=1,2,…,n),求一个m次多项式(mn-1): Pm?(x)=a0?+a1?x+…+am?xm?,使得误差的平方和????????达到最小. 即求待定参数a0?,a1?,…,am?使得????????(4)达到最小.??如果m=n-1, 过这n个点可以决定一个n-1次多项式, 此时说明:Pm(x)正好可以过这n个点,Q=0时达到最小，这就成为一个插值问题.如果mn-1,此时过这n个点的m次多项式不仅存在,而且有无穷多个,解是不确定的. 因而, 对于拟合问题，一般总是针对大量的数据对而选用低次多项式.?类似直线拟合方法，可找a0?,a1?,…,am?满足的所谓正则方程组,?令???????整理得到下面的正则方程组(法方程组)：???????这是一个m+1阶的线性方程组. 例如m=2, 法方程组为???????这是一个三元一次方程组.???? 例2 给定数据如下表, 求最小二乘拟合多项式P2(x)?.???????解：设P2(x)=a0?+a1?x+a2?x2?，列表计算:??????于是，法方程组为:?????? 解得??????故所求的二次多项式为： ??????y = -1.7143 + 3.8690x - 0.4881x2??? 三、指数拟合和一些非线性拟合???? 有些数据(xk?,yk),(k=1,2,…,n),在直角坐标系中的分布近似于指数曲线, 则可以用指数函数进行拟合.?已知一组数据对(xk?,yk),(i=1,2,…,n),求一个指数函数y=beax?,使得误差的平方和 :???????(6)达到最小.?指数函数y=beax?,两边取对数,得:lny=lnb+ax,作变换y*?=lny,得y*?=lnb+ax这是一个