曲线拟合的最小二乘法.pptVIP

引入记号则由内积的概念可知---------(5)---------(6)显然内积满足交换律第26页，共46页，星期日，2025年，2月5日方程组(4)便可化为---------(7)将其表示成矩阵形式-----(8)第27页，共46页，星期日，2025年，2月5日并且其系数矩阵为对称阵.根据Cramer法则,法方程组有唯一解第28页，共46页，星期日，2025年，2月5日即是的最小值所以因此第29页，共46页，星期日，2025年，2月5日作为一种简单的情况,基函数之间的内积为平方误差第30页，共46页，星期日，2025年，2月5日例1.回到本节开始的实例，从散点图可以看出纤维强度和拉伸倍数之间近似与线性关系故可选取线性函数为拟合函数，其基函数为建立法方程组根据内积公式，可得第31页，共46页，星期日，2025年，2月5日法方程组为解得平方误差为第32页，共46页，星期日，2025年，2月5日拟合曲线与散点的关系如右图:第33页，共46页，星期日，2025年，2月5日四、加权最小二乘法各点的重要性可能是不一样的权:即权重或者密度，统称为权系数.定义加权平方误差为-----(9)第34页，共46页，星期日，2025年，2月5日第1页，共46页，星期日，2025年，2月5日曲线拟合问题:(建立试验数据的模型)在实际应用中，往往并不需要曲线通过给定的数据点，而只要求用曲线(函数)近似代替给定的列表函数时，其误差在某种度量意义下最小。函数逼近问题:(连续函数的逼近)在实际应用中常需为解析式子比较复杂的函数寻找一个简单函数来近似代替它，并要求其误差在某种度量意义下最小。可统称为最佳逼近问题§3.1拟合与逼近问题第2页，共46页，星期日，2025年，2月5日一.问题的提出插值法是使用插值多项式来逼近未知或复杂函数的，它要求插值函数与被插函数在插值节点上函数值相同，而在其他点上没有要求。在非插值节点上有时函数值会相差很大。若要求在被插函数的定义区间上都有较好的近似，就是最佳逼近问题。必须找到一种度量标准来衡量什么是最佳逼近.第3页，共46页，星期日，2025年，2月5日最佳一致逼近是在函数空间M中选P(x)满足但由于绝对值函数不宜进行分析运算，常替之以来讨论，于是最佳逼近问题变为最佳平方逼近问题这即为连续函数的最佳平方逼近.对于离散的问题，最佳平方逼近问题为:就是常说的曲线拟合的最小二乘法. 最佳逼近第4页，共46页，星期日，2025年，2月5日二.预备知识内积:第5页，共46页，星期日，2025年，2月5日常采用的内积与范数第6页，共46页，星期日，2025年，2月5日第7页，共46页，星期日，2025年，2月5日第8页，共46页，星期日，2025年，2月5日1.正交函数族与正交多项式

定义1若f(x),g(x)∈C[a,b],ρ(x)为[a,b]上的权函数且满足:

????????

则称f(x)与g(x)在[a,b]上带权ρ(x)正交。正交多项式第9页，共46页，星期日，2025年，2月5日若函数族ψ0(x),ψ1(x),…,ψn(x),…满足关系?

????????

则称{ψk(x)}是[a,b]上带权ρ(x)的正交函数族。

例如，三角函数族1,cosx,sinx,cos2x,sin2x,…就是在区间[-π,π]上的正交函数族。第10页，共46页，星期日，2025年，2月5日定义2设ψn(x)是[a,b]上首项系数an≠0的n次多项式,ρ(x)为[a,b]上权函数，如果多项式序列满足关系式:则称为多项式序列为在[a,b]上带权ρ(x)正交，称ψn(x)为[a,b]上带权ρ(x)的n次正交多项式。第11页，共46页，星期日，2025年，2月5日只要给定区间[a,b]及权函数ρ(x),均可由一族线性无关的幂函数{1,x,…,xn,…}利用逐个正交化手续(Gram-Schmidt正交化方法)：构造出正交多项式序列?。第12页，共46页，星期日，2025年，2月5日2.勒让德多项式定义3当