矩阵最小二乘.ppt

线性参数的最小二乘处理 最小二乘原理 　最小二乘原理 　等精度测量线性参数的最小二乘原理 　不等精度测量线性参数的最小二乘原理 正规方程 　线性参数的最小二乘处理的正规方程 　非线性参数的最小二乘处理的正规方程 　最小二乘原理和算术平均值原理的关系 精度估计 　测量数据的精度估计 　最小二乘估计量的精度估计 主要内容 引入 待测量（难以直接测量）： 直接测量量： 问题：如何根据　　　　　和测量方程解得待测 量的估计值　　　　　　？ 直接求得　　　　　。 有利于减小随机误差，方程组 有冗余，采用最小二乘原理求 讨论： 最小二乘原理： 最可信赖值应使残余误差平方和最小。 最小二乘原理 设直接测量量 的估计值为 ， 则有 由此得测量数据 的残余误差 残差方程式 等精度测量的最小二乘原理： 最小 不等精度测量的最小二乘原理： 最小 最小二乘原理 测量结果的最可信赖值应使残余误差平方和（或加权残余误差平方和）最小。 矩阵的导数运算 1、矩阵Y=F(x)对标量x求导，相当于每个元素求导数 2、标量y对列向量x求导 注意：对m×1向量求导后还是m×1向量 3、行向量yT对列向量x求导 注意：1×n向量对m×1向量求导后是m×n矩阵；将y的每一列对x求偏导，将各列构成一个矩阵。 结论： 4、列向量y对行向量xT求导 转化为行向量yT对列向量x的导数，然后转置。注意m×1向量对1×n向量求导结果为m×n矩阵。 结论： 5、向量积对列向量x求导运算法则 结论： 6、矩阵Y对列向量x求导 将Y对x的每一个分量求偏导，构成 一个超向量。注意该向量的每一个元 素都是一个矩阵。 7、标量y对矩阵X的导数 类似标量y对列向量x的导数，把y对每个X的元素求偏导，不用转置。 结论： 重点关注： （1） （2） 最小二乘估计 设有一线性观测模型： 则有 加权最小二乘估计 （1）权重的概念 （2）单位权化 （3）加权最小二乘估计 精度估计 目的：给出估计量 的精度 一、测量数据精度估计 A）等精度测量数据的精度估计 对 进行n次等精度测量，给出 的估计量。 可以证明 是自由度（n－t）的 变量。 根据 变量的性质，有 则可取 作为 的无偏估计量。 因此测量数据的标准差的估计量为 B）不等精度测量数据的精度估计 测量数据的单位权 标准差的无偏估计 最小二乘估计量的精度估计 A）等精度测量最小二乘估计量的精度估计 设有正规方程 设 利用上述不定乘数，可求得 其中： 由于 为等精度 的相互独立的正态随机变量 同理可得 则相应的最小二乘估计值的标准差为 B）不等精度测量最小二乘估计量的精度估计 同理经推导可得： 各不定乘数 由 求得：