最小二乘法与高斯消元法.pptVIP

2.4 正交多项式和最佳平方逼近 　　正交多项式是数值计算中的重要工具，这里只介绍正交多项式的基本概念、某些性质和构造方法。离散情形的正交多项式用于下节的数据拟合，连续情形的正交多项式用于生成最佳平方逼近多项式和下章的高斯型求积公式的构造。它们在数值分析的其他领域中也有不少应用。 2.4.1 离散点集上的正交多项式 设有点集 ，函数 　和 　 在离散意义下的内积定义为 (2.4.1) 其中 为给定的权数。在离散意义下，函数 　的2范数定义为 (2.4.2) 有了内积，就可以定义正交性。若函数 　 和 　 的内积 　，则称两者正交。若多项式组 在离散意义下的内积满足 2.5 离散数据的曲线拟合 2.5.1 最小二乘拟合 　　对于已知的m+1的离散数据 和权数 ，记 在连续函数空间C[a,b]中选定n+1个线性无关的基函数 ，并记由它们生成的子空间 。如果存在 使得 (2.5.1) 则称 为离散数据 在子空间　中带权 的最小二乘拟合。 函数 在离散点处的值为 因此，（2.5.1）右边的和式是参数 的函数，记作 （2.5.2） 这样，求极小值问题（2.5.1）的解 　 ,就是求多元二次函数 　　　　　　　　的极小点 　使得 由求多元函数极值的必要条件有 按内积的定义，上式可写为 （2.5.3） 可以证明，这样得到的 ，对于任何 ，都有 这方程称为法方程(或正规方程)。这里， 由于 线性无关，故（2.5.3）的系数矩阵非奇异，方程组（2.5.3）存在唯一的解 从而得 . ) ( ) ( 0 * * F ? = ? = x a x k n k k j j 故 是所求的最小二乘拟合。记 ，显然，平方误差 或 均方误差 越小，拟合的效果越好。平方误差有与（2.4.15）相同形式的表达式。 2.5.2 多项式的拟合 例 2.13 用多项式拟合表2-7中的离散数据。 yi 0.10 0.35 0.81 1.09 1.96 xi 0.00 0.25 0.50 0.75 1.00 i 0 1 2 3 4 表2-7 即在多项是空间 　　中作曲线拟合，称为多项式拟合。这是一种特定的线性模型，因此可用上面讨论的方法求解。子空间 得基函数为 前面讨论了子空间 中的最小二乘拟合。这是一种线性拟合模型。在离散说据 　的最小二乘拟合中，最简单、最常用的数学模型是多项式 解 作数据点的图形如图2-2，从图形看出用二次多项式拟合比较合适。这时n=2，子空间 的基函数 。数据中没有给出权数，不妨都取为1，即 。 o y 1.96 1 x * * * * 图2-2 按（2.5.3）有 解此方程组得 。从而，拟合多项式为