第七章节最小二乘法.pptVIP

* 第四章 向量组的线性相关性 §1n维向量 一,向量定义 定义1 §1 引言 第七章 最小二乘法 问题的提出: 已知一组离散数据 ,希望由此得到x , y 之间的(近似)关系y = f ( x ). 解决问题的思路: 寻找一个比较”合理”的函数 来 “近似” f ( x ). 现在这里的”近似” 与插值近似不同. 本章讨论在如下意义下的”近似”: 要求”近似”函数在已知点上与原来函数值的偏差达到最小,即: 使 达到最小 这种意义下的”近似”问题称为离散最佳平方逼近问题,又称 最小二乘逼近.几何上又称曲线的最小二乘拟合. 最小二乘逼近问题中的近似函数 可以在更”合理”的某种函数类中找一个函数使 与插值问题比较,最小二乘法更注重整体的逼近效果, 在函数类型的选择上比插值问题有更大的灵活性,当然多项式是一种常用的函数类,也可以根据问题的需要,选择其它的函数类,如指数函数,反比函数等. 选定了函数类 以后,就要在这个函数类中选择一个函数 ,使 达到最小 这里的”合理”可以根据问题的需要来确定. 达到最小 * 3,线性组合与线性表示 定义2 Th1 如n次多项式全体作为一个函数类, 就是它的一个基,任意一个n次多项式都由它线性表示. 由于一个函数类中有无穷多个函数,我们引进函数类的基 引进了函数类的基,原来在函数类的无穷多个函数中找一个 函数的问题就转化为求n+1个数, ,使. 最小 * 4,向量组的等价及矩阵的行(列)向量的线性表示 定义3 由多元函数的极值原理,应有: 给出m个节点上的函数值 ,和权函数 要在一个确定的函数类 中求一个函数 ,使 §2 曲线拟合的最小二乘法 最小 * 例 这就得到了一个线性方程组,这个方程组称为最小二乘法的 法方程组(又称正规方程组). 由这个法方程组的解就可得到所要求的函数 * 7,向量组的线性相关性 定义4 　　　 现选取三种不同的曲线类型： 用最小二乘法求拟合曲线. 例 1 2 3 4 5 6 7 8 9 10 3.8 6.3 7.9 8.6 9.2 9.5 9.7 9.9 10.1 10.2 * 7,向量组的线性相关性 定义4 　　　 作变换:令 则 数据表变为 例:从1870年开始,100多年来地球大气温度上升的数据如下, 试用最小二乘法预测:照此增长方式,到哪一年地球温度将 比1870年增高7度.(设年份与 温度增高的关系为指数函数) 数据的平移与压缩 为了简化计算,减少计算误差,有时对数据表可以进行平移和压缩. 1880 1890 1900 1910 1920 1930 1940 1950 1960 1970 1980 0.01 0.02 0.03 0.04 0.06 0.08 0.10 0.13 0.18 0.24 0.32 1 2 3 4 5 6 7 8 9 10 11 1 2 3 4 6 8 10 13 18 24 32 * 7,向量组的线性相关性 定义4 　　　 即照此增长方式,到2079年地球温度将比1870年升高7度. 现在已知 x=700, 要求n 令: 求得: * 7,向量组的线性相关性 定义4 则最小二乘法的法方程组就可以写为: 对于有些不能化为多项式形式的函数,照此矩阵形式,计算较简单. 现在要求 可令: 最小二乘法的矩阵形式 设:给出 * 7,向量组的线性相关性 定义4 则最小二乘法的法方程组就可以写为: 求得: 现在用