《第三章插值法与最小二乘法2_Zu》-公开课件（设计）.pptVIP

* * * * * * * * * * 根据上述实例图中测试点的分布情况,可以画出很多条靠近这些点的直线,其方程都可表示为： 5-1 最小二乘法的基本概念 (1) (2) 其中: a, b 待定.要从形如(1)式的所有直线中,找出一条用某种度量标准来衡量最靠近所有数据点 的直线. 计算值 S(ti) 与测量数据 si 之差为: 其大小依赖于 a, b 的选取. 问:如何衡量直线与数据点偏离程度? (3) 注:(1)式是一条直线，但现实生活中的函数关系并不都是线性关系，因此下面将问题推广到一般情况. 一般使用误差的加权平方和作为误差的度量标准。 用ωi 表示测量数据 (ti, si) 的重度,称为权系数,表示在不同点 (ti, si) 处的数据比重不同. 作为衡量 S(t) 与数据点 (ti, si) (i = 0,1,…,m)偏离大小的度量标准. 使 最小的 S(t) 最接近 ,以此为依据可确定(1)式中的确定系数 a, b. 问:如何确定直线方程的系数 a 与 b ? (4) (5) (6) 定义1 设 为给定一组数据, 为各点的权系数 ,要求在函数类 中,求一函数 使误差的加权平方和最小,即 最小平方误差 其中： 为Φ中任意函数，称为拟合函数. 称按条件(6)求函数 s*(x) 的方法为数据拟合的最小二乘法,简称最小二乘法. 数据点数-1 基函数个数-1 最小二乘解 拟合条件 问：确定拟合函数 s(x) 后,如何求拟合系数 ,使得 满足拟合条件？ 5-2 法方程组（正规方程组） 由 可知 为拟合系数 的函数.因此,可设平方误差为: 求最小二乘解 的问题 取极小值 的问题 由多元函数取极值的必要条件 移项整理得： (7) 交换求和号顺序得： 得： 即 显然(7)式是一个关于 的n+1阶线性方程组. 定义向量： 定义内积： (9) (8) 方程组(7)便可化为: (10) 这是一个系数为 ,常数项为 的线性方程组.将其表示为矩阵形式： (11) 称为函数系 在离散点 的法方程组.并且其系数矩阵为对称正定矩阵. 坡度矩阵,Hilbert矩阵 k j 由于 为函数类Φ的基,因此它们必然线性无关,所以法方程组的系数矩阵非奇异,即 根据Cramer法则,法方程组有唯一解： 即： 的最小值. 是 可以证明, 是 所对应的 最小二乘解. 为均方差. 称 为最小二乘解 的平方误差. 可以证明: (12) 平方误差的内积表示形式: 故有 作为一种简单的情况, 常使用多项式 Pn(x) 作为 (xi, yi) (i = 0,1,…,m) 的拟合函数, 这是最常见的最小二乘拟合. 此时, 拟合函数 S(x) 的基函数为: (13) 相应的拟合函数为: 函数类为多项式类时的法方程组 基函数之间的内积为： 此时，法方程组为： (14) n 较大时,属于病态问题 ? 问：如何解决上述问题？ 以正交多项式为基函数, 简化法方程组. 例2 测得数据如下：试用最小二乘法求最佳数据拟合函数. i 0 1 2 3 4 5 6 0.0 0.2 0.4 0.6 0.8 1.0 1.2 0.9 1.9 2.8 3.3 4.0 5.7 6.5 解： 1)在坐标平面上描点， 从散点图可以看出函数关系近似 线性关系，所以选择线性函数： 其基函数为 作为拟合函数, 2)根据散点的分布情况，选择基函数. （难点） 3)建立法方程组 根据内积公式: 计算下列各值： 取 得法方程组： 4)解法方程组,求拟合函数系数 因此, 为所有的最小二乘解. 求得线性函数两系数: 5)求拟合误差 最小二乘拟合的一般步骤: 描点(若给定拟合函数形式,这一步骤可以省略); 根据数据点的分布情况,确定拟合函数,进一步确定拟合函数的基函数; 建立法方程组(涉及到一些内积运算); 求解法方程组(推荐使用Gauss列主元消去法),得拟合函数的系数; 写出拟合函数; 求拟合误差:最小平方误差. 非线性最小二乘问题 当用非多项式函数 (例如: 指数函数类 或幂函数类