第五章最小二乘解.pptxVIP

给出一组离散点，确定一个函数逼近原函数，插值是的一种手段。但在实际问题中，数据不可避免的会有误差，插值函数会将这些误差也包括在内。因此，我们需要一种新的逼近原函数的手段： ①不要求过所有的点（可以减小误差影响）； ②尽可能表现数据的趋势，靠近这些点。 如：5个风景点，要修一条公路主干道S使得S为直线，且到所有风景点的距离和最小，而不要求公路通过所有的风景点。§1 最小二乘法实例：考察某种纤维的强度与其拉伸倍数的关系,下表是实际测定的24个纤维样品的强度与相应的拉伸倍数的记录:编号拉伸倍数(x)强度(y)编号拉伸倍数(x)强度(y)编号拉伸倍数(x)强度(y)11.91.49553105.251843.532.11.81165.5194.54.242.52.5126.36.4204.63.552.72.8136.56218.98.562.72.5147.15.3229873.531586.5239.58.183.52.7268724108.1 纤维强度随拉伸倍数增加而增加，并且24个点大致分布在一条直线附近，因此可以认为强度y与拉伸倍数x的主要关系应是线性关系。---------(1)找一种度量标准来衡量什么曲线最接近所有数据点一、最小二乘法原理在回归分析中称为残差一般使用称为平方误差从而确定(1)中的待定系数，求解y(x)。二、线性最小二乘拟合⒈ 基本思想给定 ，设x,y的关系为仍然定义平方误差称满足条件(2)的求函数 的方法为线性最小二乘拟合。---------(2)称为最小二乘解的最小偏差。⒉ 法方程组由可知二次函数因此可假设因此求最小二乘解转化为的最小值点 的问题由多元函数取极值的必要条件得即---------(4)即引入记号则由内积的概念可知---------(5)---------(6)显然内积满足交换律方程组(4)便可化为---------(7)将其表示成矩阵形式-----(8)记则(8)可表示为几点备注：证明：即证利用线性代数知识易证关于矩阵的秩成立：又由关于秩的不等式得：从而⒊ 最小二乘多项式拟合用多项式 作为的拟合函数，它的基函数为基函数之间的内积为则最小二乘多项式拟合的法方程组为--------------- (9)最小二乘拟合多项式的存在唯一性定理1 设点 互异，则法方程组(9)的解存 在且唯一。定理2 设 是法方程组(9)的，则是最小二乘拟合多项式，即例1. 回到本节开始的实例，从散点图可以看出纤维强度和拉伸倍数之间近似与线性关系故可选取线性函数为拟合函数，其基函数为建立法方程组根据内积公式，可得法方程组为解得最小偏差为拟合曲线与散点的关系如下图:6.7941 -5.3475 63.2589-5.3475 5.1084 -49.008663.2589 -49.0086 1002.5 1.6163-2.382726.7728例2. 求拟合下列数据的最小二乘解x=.24 .65 .95 1.24 1.73 2.01 2.23 2.52 2.77 2.99y=.23 -.26 -1.10 -.45 .27 .10 -.29 .24.56 1从数据的散点图可以看出解:通过计算,得法方程组的系数矩阵及常数项矩阵为 -1.0410 -1.2613 0.030735用Gauss列主元消去法,得拟合的最小偏差为例3. 求拟合下列数据的最小二乘解(用二次多项式)x= -2 -1 0 1 2y= 0 -2 -1 1 2练习解得最小二乘拟合为：三、非线性最小二乘拟合思想：非线性——线性化例如对拟合函数 两边取对数在某化学反应里,测得生成物浓度y%与时间t的数据如下，试建立y关于t的经验公式例4.t=1,2,3,4,5,6,7,8,9,10,11,12,13,14,15,16y=4.00, 6.40, 8.00, 8.80, 9.22, 9.50, 9.70, 9.86, 10.00, 10.20,10.32,10.42,10.50,10.55,10.58,10.60解:具有图示的图形的曲线很多，本题特提供两种形式两边取对数,得即为拟合函数得基函数为解法方程组得平方误差为用最小二乘法得即平方误差为无论从图形还是从平方误差考虑，在本例中指数函数拟合比双曲线拟合要好。四、利用最小二乘原理求解矛盾方程组(不相容)例如求不相容方程组§3