2-3最小方差无偏估计和有效估计要点.pptVIP

湘潭大学数学与计算科学学院 §2.3 最小方差无偏估计 一、最小方差无偏估计 定理2.8的说明：如果无偏估计不是充分统计量 的函数，则将之对充分统计量求条件期望可以 得到一个新的无偏估计，该估计的方差比原来 的估计的方差要小，从而降低了无偏估计的方 差。 换言之，考虑? 的估计问题只需要在基于 充分统计量的函数中进行即可，该说法对所有 的统计推断问题都是正确的，这便是所谓的充 分性原则。 2. 要直接验证某个估计量是最小方差无偏估计量 是困难的. 若能求出无偏估计中方差的下界, 而且又 能说明参数 的一切无偏估计中存在某个估计 的 方差能达到这个下界，那么 就是 的最小方差无 偏估计. 下面给出一个判别准则： 定理2.10 (Cramer-Rao不等式)设X1,X2,…Xn是 从密度函数为 的总体抽取的样本, 是 的一个无偏估计, 若 集合 与 无关; 对 积分与微分可交换且 存在，即 (3) 费希尔信息量是数理统计学中一个基本概念，很多的统计结果都与费希尔信息量有关。如极大似然估计的渐近方差，无偏估计的方差的下界等都与费希尔信息量I(? )有关。I(? )的种种性质显示，“I(? )越大”可被解释为总体分布中包含未知参数? 的信息越多。 例2.22 设总体服从泊松分布 ， X1,X2,…Xn 是来自总体的一个样本，试求参数 的无偏估计的下界？ 例2.23 设 X1,X2,…Xn 是取自总体 X~ 的一个样本, 求 的无偏估计的方差下界. 解: (1) 写出密度函数 (2) 求密度函数对数、再求导 (3) 计算 (4) 代入C-R不等式求方差下界 最后寻找无偏估计中满足方差下界的估计量. 例2.24 设 X1, X2, … Xn 是取自总体 X~B(N, p) 的一个样本，验证 是参数P的有效估计量. 由定义2.4知，最小方差无偏估计（MVUE）是在无偏估计类中，使均方误差达到最小的估计量，即在均方误差最小意义下的最优估计。它是在应用中，人们希望寻求的一种估计量。 定理2.7给出了最小方差无偏估计的一种判别方法，但由上例可见，该判别法使用并不方便，而且还只是一个充分条件。为了寻求更好的方法，需要借助充分统计量甚至充分完备统计量的概念。 1.最小方差无偏估计提供了一种优良的估计，然而一个更深入的问题是：无偏估计的方差是否可以任意小？如果不可以，那么它的下界是多少？这个下界等否达到？ 则有 其中 常称 为Fisher信息量. 特别当 , 有 常用的另一个表达式 常称为C-R不等式. 解: (1) 写出密度函数 (2) 求密度函数对数、再求导 (3) 计算fisher信息量 (4) 代入C-R不等式求方差下界 1. 写出密度函数，求对数 2. 计算fiser信息量 3.代入C-R不等式求方差下界 1. 写出密度函数 2. 求密度函数对数 3. 计算fiser信息量 4.代入C-R不等式求方差下界 2. 求密度函数对数的导数 3. 计算fiser信息量 4.代入C-R不等式求方差下界 5. 计算最小方差无偏估计的方差 2、有效估计 1) 定义2.8 P57 1.写出概率函数,再求对数 2. 计算fiser信息量 3.代入C-R不等式求方差下界