高等数学实践课-最小二乘法的理论思想及应用.docVIP

最小二乘法的理论思想及应用 课 程 名 称： 高等数学（2） 专 业 班 级： 成 员 组 成： 5 月 3 日 摘要：探讨最小二乘法的基本原理、几何解释、线性拟合和若干非线性拟合及其在物理、化学等学科中的应用。 关键词：最小二乘法 直线拟合 矛盾方程组 正规方程组 拟合曲线 经验公式 几何解释 基本原理 线性关系 有效数字 Theoretical thinking and application of the least squares method Abstract: xplore the basic principles of the least squares method, the geometric interpretationofliner regression and nonlinear curve fitting and its application in physics, chemistry andother discipline Key words: The least squares curve fitting the contradiction equations normal equations fitting curveempirical formula for the geometric interpretation of linear relationship of the basic principles of effective digital 1 引言 最小二乘法在社会生活的各个领域有着广泛的应用，为此特地做出以下简略分析 2 研究问题及成果 一．最小二乘的思想就是要使得观测点和估计点的距离的平方和达到最小.这里的“二乘”指的是用平方来度量观测点与估计点的远近（在古汉语中“平方”称为“二乘”），“最小”指的是参数的估计值要保证各个观测点与估计点的距离的平方和达到最小 在两个观测量中，往往总有一个量精度比另一个高得多，为简单起见把精度较高的观测量看作没有误差，并把这个观测量选作x，而把所有的误差只认为是y的误差。设x和y的函数关系由理论公式 y＝f（x；c1，c2，……cm） （0-0-1） 给出，其中c1，c2，……cm是m个要通过实验确定的参数。对于每组观测数据（xi，yi）i＝1，2，……，N。都对应于xy平面上一个点。若不存在测量误差，则这些数据点都准确落在理论曲线上。只要选取m组测量值代入式（0-0-1），便得到方程组 yi＝f（x；c1，c2，……cm） （0-0-2） 式中i＝1，2，……，m.求m个方程的联立解即得m个参数的数值。显然Nm时，参数不能确定。 在Nm的情况下，式（0-0-2）成为矛盾方程组，不能直接用解方程的方法求得m个参数值，只能用曲线拟合的方法来处理。设测量中不存在着系统误差，或者说已经修正，则y的观测值yi围绕着期望值 f（x；c1，c2，……cm） 摆动，其分布为正态分布，则yi的概率密度为 , 式中是分布的标准误差。为简便起见，下面用C代表（c1，c2，……cm）。考虑各次测量是相互独立的，故观测值（y1，y2，……cN）的似然函数 . 取似然函数L最大来估计参数C，应使 （0-0-3） 取最小值：对于y的分布不限于正态分布来说，式（0-0-3）称为最小二乘法准则。若为正态分布的情况，则最大似然法与最小二乘法是一致的。因权重因子，故式（0-0-3）表明，用最小二乘法来估计参数，要求各测量值yi的偏差的加权平方和为最小。 根据式（0-0-3）的要求，应有 从而得到方程组 （0-0-4） 解方程组（0-0-4），即得m个参数的估计值，从而得到拟合的曲线方程。 然而，对拟合的结果还应给予合理的评价。若yi服从正态分布，可引入拟合的x2量， （0-0-5） 把参数估计代入上式并比较式（0-0-3），便得到最小的x2值 （0-0-6） 可以证明，服从自由度v＝N-m的x2分布，由此可对拟合结果作x2检验。 由x2分布得知，随机变量的期望值为N-m。如果由式（0-0-6）计算出接近N-m（例如），则认为拟合结果是可接受的；如果，