最小二子乘估计.pptVIP

  1. 1、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
最小二子乘估计

最小二乘估计 Least Squares Estimate 胡玮 2010年5月 最小二乘估计 1、概述 2、线性最小二乘估计 3、线性最小二乘加权估计 4、线性最小二乘递推估计 5、单参量的线性最小二乘估计 1、概述 最小二乘估计起源于1795年,当时高斯运用这种估计方法研究行星运动。 最小二乘估计不需要任何先验知识,只需估计量的观测信号模型。 平均估值方法是最小二乘估计的一个特例。 最小二乘估计方法 设被估计量θ信号模型为 ,因为存在观测噪声或者信号模型不精确性,设受到扰动的 记为 如果进行N次观测,θ的估计值设为 求 达到最小。 2、线性最小二乘估计 (1)估计量的构造规则 若被估计矢量θ是M维的,线性观测方程为: 3、线性最小二乘加权估计 4、线性最小二乘递推估计 5、单参量的线性最小二乘估计 * * 我们把这种估计称为最小二乘估计。 (5.8.1) 其中,第k次观测矢量与 同次的观测噪声矢量 同维,但是每个 的维数不一定是相同的,其维数分别记为 ;第k次的观测矩阵 为 。 如果把全部L次观测矢量 合成一个维 数为 的矢量: (5.8.3) 相应的定义N×M观测矩阵H和N维观测噪声矢量n如下: 这样,线性观测方程(5.8.3)写成: 使(5.8.5)式中 达到最小,这就是线性最小二乘估计量的构造规则。 (2)估计量的构造公式 为了使(5.8.5)式中 达到最小,根据构造规则,有: 即所求的的最小二乘估计误差为 。 (3)估计量的性质 估计矢量是观测矢量的线性函数 如果观测噪声矢量N的均值为零,则线性最小二乘估矢量是无偏的。 因为,如果E(n)=0, 则: 所以,是 无偏估计量。 c. 如果观测噪声矢量n的均值矢量为零,协方差矩阵为 ,则线性最小二乘估计矢量的均方误差阵为: 例:根据以下对二维矢量θ的两次观测: 求出θ的线性最小二乘估计矢量。 解:由两次观测方程,可得矩阵形式观测方程为: 利用线性最小二乘矢量的构造公式,得: 假定观测噪声矢量n的均值矢量和协方差矩阵为: 线性最小而成加权估计的性能指标是使 其中W为加权矩阵。将(5.8.11)式求偏导,令结果等于零,得到线性最小二乘加权估计矢量和估计误差为: 线性最小二乘加权估计矢量的主要性质: 估计矢量是观测矢量的线性函数; 如果观测噪声矢量n的均值矢量E(n)=0,则估计矢量是无偏估计量; 如果观测噪声矢量n的均值矢量E(n)=0,协方差矩阵 则估计误差矢量的均方误差阵为: 当 时,W才能使均方误差阵取最小值,证明推导过程如下(其中A和B分别为任意两个矩阵): 例:用电表对电压进行两次测量,测量结果分别为216V和220V。观测方程为: 其中,观测噪声矢量的均值矢量和协方差矩阵分别为: 求电压θ的最小二乘估计量和最小二乘加权估计量。 解: 非加权估计时,电压的最小二乘估计量和估计量的均方误差分别为: 采用加权估计,加权矩阵取最佳加权矩阵,即: 可见,线性最小二乘加权估计量的均方误差小于非加权估计量的均方误差。 使用前面两种估计,主要存在两个问题。一是没进行一次观测,需要利用过去的全部观测数据重新进行计算,比较麻烦;而是估计量的计算中需要完成矩阵求逆,这样如果碰到高阶矩阵的话求逆比较有难度,因此我们寻求到了一种递推算法,即利用前一次的估计结果和本次的观测量,通过适当计算,就能获得当前的估计量,这种方法就是线性最小二乘递推估计。具体推算如下: 设第k-1次的线性观测方程为: 为了强调进行了k-1次观测,采用如下记号: 求出上述 、 和 后,得到第一个递推公式,再利用第一次的观察矢量 ,由: 求出 和 。同样,从第二次观测开始进行递推估计。也可以令 其中c》1.这样从第一次观测就开始进行递推估计。虽然开始误差较大,但是如果 较大,则增益矩阵 较大,于是经过若干次递推估计后,初始值不准确的影响会逐渐消失,从而获得满意的递推估计结果。 如果被估计量是单参量θ,线性观测方程为: 如果观测噪声 满足条件 则有以下的简明最小二乘估计量构造公式: * * * * *

文档评论(0)

152****6235 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档