四章节 估计量优良性准则.pptVIP

第四讲 估计量的优良性准则 一、均方误差准则 二、一致最小方差无偏估计 * 一、均方误差的准则 二、一致最小方差无偏估计 计优劣的一个自然准则可定义如下： 称上式为均方误差， (Mean Squared Error) 简记为MSE。 确定，即 其中 偏差。 （bias） 例4.1 MLE的均方误差。 果对所有 不等式 成立， 则称T比 S好， 也说S是非容许的。 (Inadmissible) 从均方误差可知，我们自然希望估计的MSE 越小越好。 对所有的 成立， 估计。 因为 倘若这样的估计 存在， 不存在。 平凡估计 (Trivial Estimate) 由此可见，均方误差一致达到最小的 最优估计并不存在，那么应如何评判和寻找 优良的估计呢？方法之一是对估计提出一些 合理性的要求，将那些诸如不合理的平凡估 计排除在外，然后在满足合理性要求的估计 类中寻找优良的估计。无偏性便是一种常用 的合理性要求。 定义4.1 无偏估计量(Unbiased Estimate)。 例4.2 试讨论它们的无偏性。 解 容易验证 是无偏的。 因为 ～ 这样 的无偏估计为 然而 是可估的。 注意： （1） 无偏估计可能不存在。 （2） 若无特别声明，均认为 是可估参数。 对可估参数 ，无偏估计一般是不唯 一的。 （3） 无偏估计不一定是好的估计，即它可能 是非容许的。 （4） 在函数变换下，无偏性可能消失，即 的有偏估计。 令 设 是可估参数， 由定义4.1可知无偏估计的均方误差就是它 在均方误差准则下，既然最好的估计不存 的无偏估计（一致最小方差无偏估计）是否 那么现在的问题是对无偏估计类 而 在， 若存在，它是否是唯一的？ 言，同样在均方误差（方差）准则下，最好 存在？ 如何求？ 这些就是我们下面需要讨论的主题。 定义4.2 参数， 最小方差无偏估计定义如下。 一致最小方差无偏估计， (Uniformly Minimum Variance Unbiased Estimate) 简称为UMVUE。 定理4.1（存在性） 设参数 是可估的， 是 一致最小方差无偏估计的充分 必要条件是对任意的 ， 等式 对所有的 都成立。 则 定理4.2（唯一性） 设参数 是可估的， 则对所有的 ， 且 推论 设 和 分别是可估函数 和 的一致最小方差无偏估计， 则对任意常 数 和 ， 是 的一 致最小方差无偏估计。 和 都是 的一致最小方差无偏估计， 有 即在概率1下一致最小方差无偏估计是唯一。 定理4.3 分统计量， 令 且对所有的 有 证明： 由条件期望的性质，有 但 这是因为 这样 由此定理可知，利用充分统计量可以降低 无偏估计量的方差。 可以通过取充分统计量的条件期望（它是充分 统计量的函数且是无偏的）来缩小无偏估计类。 因此，为了寻找UMVUE， *