最佳平方逼近第二次.pptVIP

* * * * * 上上上上上上上上中 * * * 二、 一般的最小二乘法 ? = - m i i i y x S* 0 2 ] ) ( [ = = ? = - m i i i y x S 0 2 ] ) ( [ (3.1) 其中 (3.2) 为了更具一般性, 通常考虑为加权平方和 是[a,b]上的权函数,它表示不同点(xi, f(xi))的数据比重不同. (3.3) 用最小二乘法求拟合曲线的问题,就是在形如(3.2)的S(x)中求一函数 y=S*(x),使(3.3)取得最小. 它转化求多元函数 (3.4) 的极小值 问题. =2 ?(xi)[ aj?j(xi) -f(xi)]?k(xi) =0 ? j = 0 n ? i = 0 m ?ak ?I (k=0,1,…,n) (?j, ?k) = ?(xi)?j(xi)?k(xi) , ? i = 0 m ( f, ?k) = ?(xi)f(xi)?k(xi) ≡dk ? i = 0 m (k=0,1,…,n) ? j = 0 n (?j, ?k) aj = dk (k=0,1,…,n) Ga = d 这方程称为法方程，可写成矩阵形式: 上式可改写为 若记 (3.5) (3.6) 由求多元函数的极值的必要条件，有 其中a= T , d=(d0,d1,…,dn)T , G = (?0, ?0) … (?0, ?n) (?0, ?1) (?1, ?0) … (?1, ?n) (?1, ?1) (?n, ?0) … (?n, ?n) (?n, ?1) … … … (3.7) 要使法方程(3.6)有唯一解a0, a1, …, an, 就要求矩阵G非奇异. 必须指出, ?0(x), ?1(x), …, ?n(x)在[a,b]上线性无关不能推出矩阵G非奇异. 例如,令?0(x)=sinx,?1(x)=sin2x, x?[0,2?], 显然{?0(x), ?1(x)}在[0,2?]上线性无关, 但若取点xk=k?, k=0, 1,2 (n=1,m=2),那么有?0(xk)=?1(xk)=0, k=0,1,2, 由此得出 G = = 0 (?0, ?0) (?0, ?1) (?1, ?0) (?1, ?1) 为保证(5.6)的系数矩阵G非奇异，必须加上另外的条件. 定义10 设?0(x), ?1(x),… ?n(x)?C[a,b]的任意线性组合在点集{xi, i=0,l,...,m}(m?n)上至多只有n个不同的零点,则称?0(x), ?1(x),…, ?n(x)在点集{xi,i=0,l,...,m}上满足哈尔(Haar)条件. 可以证明,如果?0(x), ?1(x),… ?n(x)?C[a,b]在{xi}0m上满足哈尔(Haar)条件,则法方程(5.6)的系数矩阵G非奇异. 用最小二乘法得到的法方程组(3. 6)，其系数矩阵G是病态的,但如果?0(x), ?1(x),… ?n(x)是关于点集 {xi}(i=0, l, ..., m)带权?(xi) (i=0,l,...,m) 正交的函数族，即 则方程（5.6）的解为 (?j, ?k) = ?(xi)?j(xi)?k(xi) = ? i = 0 m 0, j≠k, Ak j = k. = ak*= (?k, ?k) (f, ?k) ?(xi)f(xi)?k(xi) ? i = 0 m ?(xi) ?k2(xi) ? i = 0 m (k=0, l, ..., n) 例：用 来拟合 ，w ? 1 解： ?0(x) = 1， ?1(x) = x， ?2(x) = x2 7623 ) ( 4 63 || || 484, || || 1 = = ? - ? = B cond B B 正交多项式与最小二乘拟合 例：连续型拟合中，取 则 Hilbert阵！ 改进： 若能取函数族?={ ?0(x), ?1(x), … , ?n(x), … }，使得任意一对?i(x)和?j(x)两两（带权）正交，则 B 就化为对角阵！ 这时直接可算出ak = ? 正交多项式的构造： 将正交函数族中的?k 取为k 阶多项式，为简单起见