[理学]CH3插值法与最小二乘法—3.ppt

华长生制作 函数类的基底取正交多项式 , 取 3)计算 gn(x) 则 拟合函数为: * 第三章 插值法与 最小二乘法 张红梅 自动化学院 2010年3月 3.7 数据拟合的最小二乘法 本节主要内容 最小二乘法的基本概念 法方程组 利用正交多项式作最小二乘拟合 1786年(9岁),发现1到100自然数之和是5050； 1795年,进入哥廷根大学,发明最小二乘法； 1796年,仅用尺规作出正17边形； 1879年(22岁),证明代数学基本定理,获博士学位； 1801年(24岁),出版《算术研究》,精确计算谷神星(最大的小行星)的轨迹； 1816年左右发现了欧氏几何的原理； 1828年出版《关于曲面的一般研究》,系统地阐述了空间曲面的微分几何学； 1833年,和韦伯共同发明了有线电报； … … 最小二乘法发明者——高斯 高斯在数学、天文学、力学、测地学、磁学、光学、水工学和电动学等方面均有杰出贡献. Gauss (1777～1855) 在科学实验中,往往要从一组实验数据 (xi, yi) 中,寻找自变量 x 与因变量 y 之间的函数关系 y = f (x). 在前几次课中, 我们学习了通过利用插值法来实现这个目的. 是函数逼近的另一种方法.不要求曲线完全通过所有已知节点,而是从总偏差最小的角度来取近似曲线.即从大量给定数据中找出规律,并构造一条曲线反映数据点的总趋势,以消除其局部波动.属于全局最优. 用插值法近似某个函数时,一个严重的缺点是:对节点测量值的精度要求高.但由于测量数据中往往带有随机误差, 在利用这些有误差数据构造插值函数,必将不合理的误差带入,影响对未知函数的近似精度.属于局部最优. 插值法的不足： ? 数据拟合法： 实例：考察某种纤维的强度与其拉伸倍数的关系,下表是实际测定的24个纤维样品的强度与相应的拉伸倍数的记录: §7 数据拟合的最小二乘法 结论:纤维强度随拉伸倍数增加而增加,并且24个点大致分布在一条直线附近，因此可以认为强度 S 与拉伸倍数 t的关系近似满足线性关系。 根据上述实例图中测试点的分布情况,可以画出很多条靠近这些点的直线,其方程都可表示为： 7-1 最小二乘法的基本概念 (1) (2) 其中: a, b 待定.要从形如(1)式的所有直线中,找出一条用某种度量标准来衡量最靠近所有数据点 的直线. 若 a, b 给定,计算值 s(ti) 与测量数据 si 之差为: 其大小依赖于 a, b 的选取. (3) 注:(1)式是一条直线，但现实生活中的函数关系并不都是线性关系，因此下面将问题推广到一般情况. 一般使用误差的加权平方和作为误差的度量标准。 用ωi 表示测量数据 (ti, si) 的重度,称为权系数,表示在不同点 (ti, si) 处的数据比重不同. 作为衡量 S(t) 与数据点 (ti, si) (i = 0,1,…,m)偏离大小的度量标准. 使 最小的 S(t) 最接近 ,以此为依据可确定(1)式中的确定系数 a, b. 问:如何衡量直线与数据点偏离程度? 问:如何确定直线方程的系数 a 与 b ? (4) (5) (6) 定义: 设 为给定一组数据, 为各点的权系数 ,要求在函数类 中,求一函数 使误差的加权平方和最小,即 最小平方误差 其中： 为Φ中任意函数，称为拟合函数. 称按条件(6)求函数 s*(x) 的方法为数据拟合的最小二乘法,简称最小二乘法. 数据点数-1 基函数个数-1 最小二乘解 拟合条件 问：确定拟合函数 s(x) 后,如何求拟合系数 ,使得 满足拟合条件？ 7-2 法方程组 由 可知 为拟合系数 的函数.因此,可设平方误差为: 求最小二乘解 的问题 取极小值 的问题 由多元函数取极值的必要条件 得： 移项整理得： (7) 交换求和号顺序得： 即 显然(7)式是一个关于 的n+1阶线性方程组. 定义向量： 定义内积： (9) (8) 方程组(7)便可化为: (10) 这是一个系数为 ,常数项为 的线性方程组.将其表示为矩阵形式： (11) 称为函数系 在离散点 的法方程组.并且其系数矩阵为对称阵. 坡度矩阵,Hilbert矩阵 k j 由于 为函数类Φ的基,因此它们必然线性无关,