2-3 最小方差无偏估计和有效估计.ppt

§最小方差无偏估计 一、最小方差无偏估计 由定义知，最小方差无偏估计（）是在无偏估计类中，使均方误差达到最小的估计量，即在均方误差最小意义下的最优估计。它是在应用中，人们希望寻求的一种估计量。 定理给出了最小方差无偏估计的一种判别方法，但由上例可见，该判别法使用并不方便，而且还只是一个充分条件。为了寻求更好的方法，需要借助充分统计量甚至充分完备统计量的概念。 定理的说明：如果无偏估计不是充分统计量 的函数，则将之对充分统计量求条件期望可以 得到一个新的无偏估计，该估计的方差比原来 的估计的方差要小，从而降低了无偏估计的方 差。 换言之，考虑? 的估计问题只需要在基于 充分统计量的函数中进行即可，该说法对所有 的统计推断问题都是正确的，这便是所谓的充 分性原则。 . 要直接验证某个估计量是最小方差无偏估计量 是困难的. 若能求出无偏估计中方差的下界, 而且又 能说明参数 的一切无偏估计中存在某个估计 的 方差能达到这个下界，那么 就是 的最小方差无 偏估计. 下面给出一个判别准则： .最小方差无偏估计提供了一种优良的估计，然而一个更深入的问题是：无偏估计的方差是否可以任意小？如果不可以，那么它的下界是多少？这个下界等否达到？ 定理 (不等式)设,…是 从密度函数为 的总体抽取的样本, 是 的一个无偏估计, 若 集合 与 无关; 对 积分与微分可交换且 存在，即 () 则有 其中 常称 为信息量. 特别当 , 有 常用的另一个表达式 常称为不等式. 费希尔信息量是数理统计学中一个基本概念，很多的统计结果都与费希尔信息量有关。如极大似然估计的渐近方差，无偏估计的方差的下界等都与费希尔信息量(? )有关。(? )的种种性质显示，“(? )越大”可被解释为总体分布中包含未知参数? 的信息越多。 例 设总体服从泊松分布 ， ,… 是来自总体的一个样本，试求参数 的无偏估计的下界？ 解: () 写出密度函数 () 求密度函数对数、再求导 () 计算信息量 () 代入不等式求方差下界 * *