第四章最小二乘法估计第四章小二乘法估计第四章最小二乘法估计第四章最小二乘法估计.ppt

第五章 参数的最小二乘法估计 主要内容 最小二乘法原理 线性测量方程组中参数的最小二乘法 非线性测量方程组中参数的最小二乘法 组合测量 关于最小二乘法(一) 关于最小二乘法(二) 最小二乘法是用于数据处理和误差估计中的一个很得力的数学工具。对于从事精密科学实验的人们来说，应用最小乘法来解决一些实际问题，仍是目前必不可少的手段。例如，取重复测量数据的算术平均值作为测量的结果，就是依据了使残差的平方和为最小的原则，又如，在本章将要用最小二乘法来解决一类组合测量的问题。另外，常遇到用实验方法来拟合经验公式，这是后面一章回归分析方法的内容，它也是以最小二乘法原理为基础。 关于最小二乘法(三) 最小二乘法的发展已经经历了200多年的历史，它最先起源于天文和大地测量的需要，其后在许多科学领域里获得了广泛应用，特别是近代矩阵理论与电子计算机相结合，使最小二乘法不断地发展而久盛不衰。 本章只介绍经典的最小二乘法及其在组合测量中的一些简单的应用，一些深入的内容可参阅专门的书籍和文献。 第一节　最小二乘法原理 第一节　最小二乘法原理 以上最可信赖值是在残差平方和或加权残差平方和为最小的意义下求得的，称之为最小二乘法原理。它是以最小二乘方而得名。 为从一组测量数据中求得最佳结果，还可使用其它原理。例如 （1）最小绝对残差和法： （2）最小最大残差法： （3）最小广义极差法： 第二节　线性参数的最小二乘法 第二节　线性参数的最小二乘法 先举一个实际遇到的测量问题，为精密测定三个电容值: 采用的测量方案是，分别等权、独立测得 ,列出待解的数学模型。这是一个组合测量的问题。 第三节　非线性参数的最小二乘法 第三节　非线性参数的最小二乘法 6次迭代结果 第四节　组合测量应用举例 计算步骤 写出线性化残差方程组 整理得正规方程组 解出 迭代 （1）主对角线系数是测量方程组各列系数的平方和，全为正数。 （2）其它系数关于主对角线对称 （3）方程个数等于待求量个数，有唯一解。 由此可见，线性测量方程组的最小二乘解 归结为对线性正规方程组的求解。 第二节　线性参数的最小二乘法 二、正规方程组 的矩阵形式 第二节　线性参数的最小二乘法 为了便于进一步讨论问题，下面借助矩阵 工具给出正规方程组的矩阵形式。记列向量 和n×t阶矩阵 第二节　线性参数的最小二乘法 第二节　线性参数的最小二乘法 则测量方程组可记为： 测量残差方程组记为 V=L-AX 最小二乘原理记为 第二节　线性参数的最小二乘法 利用矩阵的导数及其性质有 第二节　线性参数的最小二乘法 令 ，得正规方程组的矩阵形式。 展开系数矩阵和列向量，可得代数形式的 正规方程组。当 满秩的情形，可求出 第二节　线性参数的最小二乘法 小　　结 第二节　线性参数的最小二乘法 线性测量方程组的一般形式为 测量残差方程组 含有随机误差 矩阵形式 第二节　线性参数的最小二乘法 最小二乘法原理式 求导 正规方程组 正规方程组解 不等权 第二节　线性参数的最小二乘法 三、精度估计 第二节　线性参数的最小二乘法 对测量数据的最小二乘法处理，其最终结果不仅要给出待求量的最可信赖值，还要确定其可信赖程度，即估计其精度。具体内容包含有两方面：一是估计直接测量结果 　　　　　的精度；二是估计待求量 　　　　　的精度。 第二节　线性参数的最小二乘法 1．直接测量结果的精度估计 对t个未知量的线性测量方程组　　 　进 行n次独立的等精度测量，得　　　　　　 其残余误差为　　　　　　；标准偏差　　。 如果　　服从正态分布，那么　　　服从 　　分布，其自由度n-t，有　　变量的数 学期望　　　　　　。 即有 第二节　线性参数的最小二乘法 令t=1，由上式又导出了Bessel公式。 第二节　线性参数的最小二乘法 2．待求量的精度估计 按照误差传播的观点，估计量 的精度取决于直接测量数据 的精度以及建立它们之间联系的测量方程组。 第二节　线性参数的最小二乘法 可求待求量的协方差 矩阵 各元素　可由矩阵　　求逆得，也可由下 列各方程组分别解得 第二节　线性参数的最小二乘法 d11 第二节　线性参数的最小二乘法 d21 第二节　线性参数的最小二乘法 dt1 第二节　线性参数的最小二乘法 是直接测量数据的标准差，可按 估计 待求量 的方差 矩阵 中对角元素 就是误差传播系数 第二节　线性参数的最小二乘法 待求量 与 的相关系数 第二节　线性参数的最小二乘法 小　　结 第二节　线性参数的最小二乘法 1、直接测量结果的标准差估计 （