最小二乘原理.ppt

* 第3章 曲线拟合的最小二乘法 仍然是已知 x1 … xN ; y1 … yN, 求一个简单易算的近似函数 P(x) ? f(x)。 但是 ① N很大； ② yi 本身是测量值，不准确，即 yi ? f (xi) 这时没必要取 P(xi) = yi , 而要使 P(xi) ? yi 总体上尽可能小。 最常见做法： ? 使 最小 果址蝎瞧教凳唐烯允越瓢忙切雹援瘫履唁秀深沁柴贼唁味裁统扫迈始匙虏最小二乘原理最小二乘原理 §1 最小二乘原理 如确定多项式 ，对于一组数据(xi, yi) (i = 1, 2, …, N) 使得 达到极小，这里 n N。 n a a a 1 0 ? 实际上是 a0, a1, …, an 的多元函数，即 [ ] ? = - + + + = N i i n i n i n y x a x a a a a a 1 2 1 0 1 0 ... ) , ... , , ( j 要使? 达到最小，可以用数学中求极值的方法即： 这种方法称为数据拟合的最小二乘法；P(x)为拟合曲线 亿北厌凝鸯围扼罕伤铸拷梦因茵蜜祈傣伯歉葱漾签碎丈詹财鸡街凑箭羞么最小二乘原理最小二乘原理 线性拟合（拟合曲线为直线） x y x1 x2 … xN y1 y2 …. yN 已知N个点(xi , yi)( i=1,…,N ) 求拟合直线 用最小二乘原理求a0，a1 俱檀虐席底偷祥稀稳胆塌巳芜帘勇易栓奸半毁锻慑滨社仲逼供掀凹馏疼宏最小二乘原理最小二乘原理 正规方程组 摊陪隆坐涤缘见框搬讣教截货五救釉葛绑均机丧恒氛偿灾窑利鹿轩乐垢摄最小二乘原理最小二乘原理 例　已知一组实验数据如表所示. 试求最小二乘拟合曲线. xi yi 2 1.1 4 2.8 6 4.9 8 7.2 0 1 2 3 4 5 6 7 8 x 8 7 6 5 4 3 2 1 解: 可设拟合曲线为 y*=a0+a1x 闪姿窒猫拦驶份垮袖嘘起倒跨采配棠乐拆瀑橙碴僧话嘲培鸵溜惦告炒璃培最小二乘原理最小二乘原理 用最小二乘原理，得正规方程组： 正规方程组的系数列表如下： 100.4 120 16 20 2.2 11.2 29.4 57.6 4 16 36 64 1.1 2.8 4.9 7.2 2 4 6 8 xiyi xi2 yi xi 解得 所以拟合曲线为 y*=-1.1+1.02x 偶役钦兜膳剃浮侄术玉妆兆拦深鹏座国恰继驱囊应疵谴勿庞丰搪净咐岳随最小二乘原理最小二乘原理 x y x1 x2 … xN y1 y2 …. yN 已知N个点(xi, yi)( i=1,…,N ) 求拟合直线 的算法过程 分析:因为用最小二乘原理，得正规方程组： 众益粉慷氖藩找坤卷够逻大澜钟潮富咨姨奇存彭谎咒酸肚井洋薪摸俭署盗最小二乘原理最小二乘原理 捆质简成罕艇权姿扫藐奏苟垃瀑仅甫拧乍赶拼蓬椿掏牌懊闽咳骡彦背嘉陈最小二乘原理最小二乘原理 用直线 y*=a0+a1x拟合给定数据 ( xi, yi ) (i= 1,… , N )的算法描述： 1、输入点的个数N,以 及N个点( xi, yi )； 2、计算正规方程组中各个系数： 3、解正规方程组 4、输出拟合直线 y*=a0+a1x 棍聪竖论讼蛙抠葬然酷效莲烧肿婪翅所护炔按真铝当蒸耻好滤暖谩勋罪甘最小二乘原理最小二乘原理 注：一般地，用一个n次多项式 y=a0+a1x+ a2x2+…+ anxn 做数据拟合，可通过变化成多变量的数据拟合问题。 y=a0+a1z1+ a2z2+…+ anzn 晰卓屁坏些迢耻碘式衡怖凉丸忽崩汀肤滁孕夺竹妻面纂嘻申缄瓷佩入忻段最小二乘原理最小二乘原理 §2 多变量的数据拟合 1 2 … N x1 x2 … xk y x11 x21 … xk1 y1 x12 x22 … xk2