第六章最佳平方逼近与最小二乘拟合OK.pptVIP

Numerical Analysis J. G. Liu School of Math. Phys. North China Elec. P.U. 最佳平方逼近的概念 第六章 最佳平方逼近与最小二乘拟合 设函数组 ，且在[a,b]上线性无关， 生成空间 ， 定义： 对c[a,b]内的两个函数 f(x)、 g(x)，定义内积 用简单函数p(x)逼近一个给定区间[a,b]上的连续函数 f(x)，是函数逼近要研究的问题。度量逼近误差的标准有多种，下面只介绍最佳平方逼近。 若 ，则称函数 f(x)和 g(x)是正交的。 6.1 连续型最佳平方逼近 定义： 给定[a,b]的连续函数函数 f(x)， 若 满足 则称 p*(x)为 f(x)在空间Hn中的最佳平方逼近函数。 f(x)的最佳平方逼近函数的求法： 记 多元函数取得极小值的必要条件 记 可得 —— 法方程或正规方程 可以证明，A为非奇异矩阵，故法方程存在唯一解！ 所以 f(x)在空间Hn中的最佳平方逼近函数 p*(x)存在并唯一！ 记 称之为最佳平方逼近误差！ 注： 最佳平方逼近误差越小，说明函数空间Hn对 f(x)的逼近效果越好。 例 定义内积 ， 试在函数空间 ，寻求对于函数 的最佳平方逼近函数 。 解 简单计算可得 法方程为 # 所以 若函数组 ，是两两正交的 ， 则法方程为 从而可得 求解相当方便！ （1）设 使得 为首项（即 项）系数是1的k次多项式，即 可构造以 为权函数的正交多项式组 则由基 多项式基函数的正交化 ——格兰姆-史密特（Gram-Schmidt）正交化 常见的正交函数系 2、切比雪夫(Chebyshev)多项式 1、勒让德(Legendre)多项式 4、埃尔密特(Hermite)多项式 3、拉盖尔(Laguerre)多项式 5、三角函数系 6.2 离散型最佳平方逼近（最小二乘拟合） 问题的提出： 在实际问题中，往往会通过实验观测积累了一组数据，(xi,yi),i=1,…,m，一般来说m比较大，我们的任务是从这批实验数据出发，寻求一近似函数φ(x) 来逼近这组数据后面隐藏的函数关系 y=f(x)。 事实上，由于观测数据数目较大，又往往带有观测误差，对于这类问题运用插值函数来逼近 y=f(x) 往往是不适当的！ 可不可以用插值函数来逼近呢？ 线性最小二乘逼近 已知一组离散数据 ， 使得 要求一个函数 显然p*(x)可以表示成 下面考虑如何求系数 ！ 线性最小二乘逼近的求法 记 考虑多元函数 为了求得p*(x)，只需求多元函数 的极小值点即可！ 由多元函数极值的必要条件 可得 若记 则有 其中 （法方程或正规方程） 容易验证 其中 注： 可以证明法方程存在唯一解 。 称 为最小二乘拟合和的误差平方和。 注： 该值越小，说明拟合效果越好。 非线性最小二乘拟合的线性化 （1） （2） 22.7 8.3 4.7 8.3 14.3 y 4 2 -1 -2 -3 x 例 已知数表，求其最小二乘拟合函数 (1) 求形如 的拟合函数； (2) 求形如 的拟合函数； 解 (1) 法方程为