数值分析3-4(最小二乘法).pptVIP

一、最小二乘法的定义 第3章 函数逼近与曲线拟合 §4 曲线拟合的最小二乘法 二、求解方法 三、求解步骤 四、举例 一、最小二乘法的定义 1. “曲线拟合”问题 已知：一组实验数据（xi，yi） i 0,1,…,m ， 且观测数据有误差 求：自变量x与因变量y之间的函数关系y F x ，不要求y F x 经过所有点，而只要求在给定点上误差 按某种标准最小。 1 使残差的最大绝对值为最小 2 使残差的绝对值之和为最小 3 使残差的平方和为最小 最小二乘法 度量标准不同，将导致不同的拟合结果，常用的准则有如下三种： 2. 多项式拟合的一般定义 一组数据（xi，yi） i 0,1,…,m ， 已知： 求： 在函数类 中找一个函数 ，使误差平方和最小，即 这里 3. 一般定义 一组数据（xi，yi） i 0,1,…,m ， 已知： 求： 在函数类 中找一个函数 ，使误差平方和最小，即 这里 4. 广义定义 通常把最小二乘法 都考虑为加权平方和 即 其中 注：权函数在实际问题中有重要作用！ 二、求解方法 求S* x 求如下多元函数的最小值 由多元函数求极值的必要条件 展开 法方程 解方程组 三、求解步骤 确定拟合曲线的形式 确定变量对应的数据 确定法方程 求解法方程 最困难！ 四、举例 例1. 已知一组实验数据如下，求它的拟合曲线. 1 1 3 1 2 ωi 8.5 8 6 4.5 4 fi 5 4 3 2 1 xi 解 根据所给数据，在坐标纸上标出，从图中看到各点在一条直线附近，故可选择线性函数作拟合曲线，即令 得法方程为 解得 于是所求拟合曲线为 例2. 在某化学反应里，根据实验所得生成物的浓度与时间关系如下表，求浓度y与时间t的拟合曲线y F t . 9.86 9.70 9.50 9.22 8.80 8.00 6.40 4.00 Y 8 7 6 5 4 3 2 1 t 10.60 10.58 10.55 10.50 10.42 10.32 10.20 10.00 y 16 15 14 13 12 11 10 9 t 解 根据所给数据，在坐标纸上标出，得下图 t y 从图中可以看出开始时浓度增加较快，后来逐渐减弱，到一定时间就基本稳定在一个数值上，即当t→∞时，y趋于某个常数，故有一水平渐近线。另外 t 0 时，反应未开始，浓度为0。概括起来为 根据这些条件，可设想两种形式的函数关系： y F t 是双曲线型 y F t 是指数形式 b 0 y F t 是双曲线型 为了确定a、b，令 于是可用 x 的线性函数 拟合数据 。 可由原始数据 计算出来。 可求得 代入法方程得 解得 从而得到 于是由 计算出 ，拟合数据 的曲线仍设为 y F t 是指数形式 为了确定a 与b，对上式两边取对数得 令 得法方程 解得 从而得到 请回答: 怎样比较这两个数学模型的好坏呢？ 答：只要分别计算这两个数学模型的误差，从中挑选误差较小的模型即可。 本例经过计算可得 而均方误差为 由此可知第二个模型较好。 结论： 选择拟合曲线的数学模型，并不一定开始就能选好，往往需要通过分析若干模型后，经过实际计算才能选到较好的模型，如本例的指数模型就比双曲线模型好得多。 例3. 用最小二乘法解超定方程组 解 欲求（x,y）使得其尽可能使四个等式成立，即使 达到最小