最小二乘法原理及算例.pptVIP

第一页，共三十页，2022年，8月28日 实例讲解 某种合成纤维的强度与其拉伸倍数有直接关系，下表是实际测定的24个纤维样品的强度与相应拉伸倍数的记录。 提示：将拉伸倍数作为x, 强度作为y,在座标纸上标出各点，可以发现什么? 第二页，共三十页，2022年，8月28日 数据表格 第三页，共三十页，2022年，8月28日 第四页，共三十页，2022年，8月28日 　 从上图中可以看出强度与拉伸倍数大致成线形关系，可用一条直线来表示两者之间的关系。 解：设 y*=a+bxi ，令δ=yi-y*i=yi-a-bxi，根据最小二乘原理，即使误差的平方和达到最小，也就是令 n Q=∑δi2 i=1为最小 ，即求使   (a,b)=  有最小值的a和b的值。 第五页，共三十页，2022年，8月28日 计算出它的正规方程得 解得： a=0.15 , b=0.859 直线方程为：y*=0.15+0.859x 第六页，共三十页，2022年，8月28日 一 问题的提出 插值法是使用插值多项式来逼近未知或复杂函数的，它 要求插值函 数与被插函数在插值节点上函数值相同 ，而在其他点上没有要求。在非 插值节点上有时函数值会相差很大 。若要求在被插函数的定义区间上， 所选近似函数都能与被插函数有较好的近似，就是最佳逼近问题。 最佳逼近是在函数空间 M中选 P(x) 满足 但由于绝对值函数不宜进行分析运算,常将上式化为 来讨论 ，于是最佳逼近问题变为最佳平方逼近问题 ,而离散的最佳平方逼 进问题就是常说的曲线拟合 它们都可用最小二乘法求解。 主页 第七页，共三十页，2022年，8月28日 曲线拟合的最小二乘法 最小二乘原理 当由实验提供了大量数据时,不能要求拟合函数 在数据点 处的偏差,即 (i=1,2,…,m) 严格为零,但为了使近似曲线尽量反映所给数据点的变化趋势 ,需对偏差有所要求.通常要求偏差平方和 最小,此即称为最小二乘原理 第八页，共三十页，2022年，8月28日 ?最小二乘法的求法 第九页，共三十页，2022年，8月28日 第十页，共三十页，2022年，8月28日 ?最小二乘法的几种特例 第十一页，共三十页，2022年，8月28日 第十二页，共三十页，2022年，8月28日 例 题 第十三页，共三十页，2022年，8月28日 第十四页，共三十页，2022年，8月28日 二 线性最小问题的存在与唯一 在科学实验中，很多情况数据间存在线性或可转化为线性的关系。线性最小二乘是最基本也是最重要的一种。 1 线性最小二乘问题与线性最小二乘求解 设 Ax=b 其中 A?R m?n，b?R m，x ? R n 当m?n 时，上方程超定方程组 令 r =b-Ax ， 一般，超定方程无通常意义下解， 既无x使 t=0。对这类方程求解意义是求x，使 ? ? r? ?22 = ? ? b-Ax ? ? 22 为最小， 称x为Ax=b的最小二乘解。 主页 第十五页，共三十页，2022年，8月28日 2 最小二乘解的存在性与唯一性 定理 ：x* 为Ax=b 的最小二乘解充要条件 AT A X * =AT b 证明 ：充分性：若存在X* ，使 AT A X * =AT b 则对任意向量 令 x?=x* +y 有 ?? b– Ax ?? 22 = ?? b –AX*?? 22–2（y，AT（ b –AX*））+ ?? A y ?? 22 = ?? b –AX*?? 22 + ?? A y ?? 22 ? ?? b –AX*?? 22 ?X*为Ax=b的最小二乘解。 必要性： 令 ?? b –AX?? 22=?（x1，x2，?，x n）= ?（x） 则由多元函数极值的必要条件知，若X*为极值点， 则 ? ?（x） | —— |