ch03函数逼近与最小二乘法教程.ppt

最佳平方逼近 法方程存在唯一解 det(G) ? 0 ?0, ?1, ?, ?n 线性无关 最佳平方逼近函数的存在唯一性 设法方程的解为： a0* , a1*, ?, an* , 则 S*(x) = a0* ?0 + a1* ?1 + · · · + an* ?n(x) 性质 S*(x) 是 f(x) 在 ? 中 唯一最佳平方逼近函数，且逼近误差为 证明：(板书) 求 在[0, 1]上的一次最佳平方逼近多项式 举例 例： 解： S*(x) = 0.934 + 0.426 x 最小二乘 曲线拟合的最小二乘问题 这个问题实质上是最佳平方逼近问题的离散形式。可以将求连续函数的最佳平方逼近函数的方法直接用于求解该问题。 已知函数值表 ( xi , yi )，在函数空间 ? 中求 S*(x) ，使得 其中 ?i 是点 xi 处的权。 Linear least squares Approximation 注 最小二乘问题中，如何选择数学模型很重要，即如何选取函数空间 ? = span{?0, ?1, ?, ?n} ，通常需要根据物理意义，或所给数据的分布情况来选取合适的数学模型。 最小二乘求解 对任意 S(x) ? ? = span{?0, ?1, ?, ?n}，可设 S(x) = a0?0 + a1?1 + · · · + an?n(x) 则求 S*(x) 等价于求下面的多元函数的最小值点 k = 0, 1, …, n 最小值点 最小二乘求解 ( k = 0, 1, … , n ) 这里的内积是离散带权内积，即 ， 法方程 G 法方程 Normal equations 最小二乘求解 法方程存在唯一解 det(G) ? 0 Haar条件 ?0, ?1, ?, ?n 的任意线性组合在点集 x0, x1, ?, xm 上至多只有 n 个不同的零点，则称 ?0, ?1, ?, ?n 在点集 x0, x1, ?, xm 上满足 Haar 条件 ?0, ?1, ?, ?n 线性无关 m ? n 若 ?0, ?1, ?, ?n ? C[a, b] 在点集 x0, x1, ?, xm 上满足 Haar 条件，则法方程的解存在唯一 法方程的另一种形式 举例 例：给定函数值表，求 f(x) 的最小二乘拟合函数 S*(x) i 1 2 3 4 5 6 7 8 9 1 3 4 5 6 7 8 9 10 10 5 4 2 1 1 2 3 4 解：将所给数据点画在坐标纸上，如图可以看出 即有 这些点大致在一条抛物线上。设拟合曲线方程为 相应的正规方程组为 于是可得 因而所求拟合多项式为 多项式拟合 ?＝Hn= span{1, x, ..., xn}, 即 ?i = xi, 则相应的法方程为 此时 为 f(x) 的 n 次最小二乘拟合多项式 多项式最小二乘曲线拟合 举例 例：求下面数据表的二次最小二乘拟合多项式 得法方程 xi 0 0.25 0.50 0.75 1.00 f (xi ) 1.0000 1.2840 1.6487 2.1170 2.7183 解： 设二次拟合多项式为 解得 所以此组数据的二次最小二乘拟合多项式为 (1) 若题目中没有给出各点的权值 ?i ，默认为 ?i = 1 (2) 该方法不适合 n 较大时的情形 （病态问题） 正交多项式拟合 带权正交（离散情形） 给定点集 以及各点的权系数 ，如果函数族 满足 则称 关于点集 带权 正交 若 ?0, ?1, ?, ?n 是多项式，则可得正交多项式族 正交多项式拟合 用正交多项式做最小二乘 设多项式 p0, p1, ?, pn 关于点集 x0, x1, ?, xm 带权 ?0, ?1, ?, ?m 正交，则 f(x) 在 Hn 中的最小二乘拟合多项式为 其中 k = 0, 1, …, n 误差 离散形式的 2-范数 正交多项式的构造 给定 和权系数 ，如何构造正交多项式族 可以证明： 关于点集 带权 正交 三项递推公式： k = 1, … , n-1 其中 ( k = 0, 1, … , n-1 ) ( k = 1, 2, … , n-1 ) 几点注记 可以将构造正交多项式族、解法方程、形成拟合多项式穿插进行； n 可以事先给定，或在