04第四讲 估计量的优良性准则.pptVIP

第四讲 估计量的优良性准则 一、均方误差的准则 二、一致最小方差无偏估计 一、均方误差准则 计优劣的一个自然准则可定义如下： 称上式为均方误差， (Mean Squared Error) 简记为MSE。 确定，即 其中 偏差。 （bias） 例4.1 MLE的均方误差。 果对所有 不等式 成立， 则称T比 S好， 也说S是非容许的。 (Inadmissible) 从均方误差可知，我们自然希望估计的MSE 越小越好。 对所有的 成立， 估计。 因为 倘若这样的估计 存在， 不存在。 平凡估计 (Trivial Estimate) 由此可见，均方误差一致达到最小的 最优估计并不存在，那么应如何评判和寻找 优良的估计呢？方法之一是对估计提出一些 合理性的要求，将那些诸如不合理的平凡估 计排除在外，然后在满足合理性要求的估计 类中寻找优良的估计。无偏性便是一种常用 的合理性要求。 定义4.1 无偏估计量(Unbiased Estimate)。 例4.2 试讨论它们的无偏性。 解 容易验证 是无偏的。 因为 ～ 这样 的无偏估计为 然而 是可估的。 注意： （1） 无偏估计可能不存在。 （2） 若无特别声明，均认为 是可估参数。 对可估参数 ，无偏估计一般是不唯 一的。 （3） 无偏估计不一定是好的估计，即它可能 是非容许的。 （4） 在函数变换下，无偏性可能消失，即 的有偏估计。 令 设 是可估参数， 由定义4.1可知无偏估计的均方误差就是它 在均方误差准则下，既然最好的估计不存 的无偏估计（一致最小方差无偏估计）是否 那么现在的问题是对无偏估计类 而 在， 若存在，它是否是唯一的？ 言，同样在均方误差（方差）准则下，最好 存在？ 如何求？ 这些就是我们下面需要讨论的主题。 二、一致最小方差无偏估计 定义4.2 参数， 最小方差无偏估计定义如下。 一致最小方差无偏估计， (Uniformly Minimum Variance Unbiased Estimate) 简称为UMVUE。 定理4.1（存在性） 设参数 是可估的， 是 一致最小方差无偏估计的充分 必要条件是对任意的 ， 等式 对所有的 都成立。 则 定理4.2（唯一性） 设参数 是可估的， 则对所有的 ， 且 推论 设 和 分别是可估函数 和 的一致最小方差无偏估计， 则对任意常 数 和 ， 是 的一 致最小方差无偏估计。 和 都是 的一致最小方差无偏估计， 有 即在概率1下一致最小方差无偏估计是唯一。 定理4.3 分统计量， 令 且对所有的 有 证明： 由条件期望的性质，有 但 这是因为 这样 由此定理可知，利用充分统计量可以降低 无偏估计量的方差。 可以通过取充分统计量的条件期望（它是充分 统计量的函数且是无偏的）来缩小无偏估计类。 因此，为了寻找UMVUE， 若令 这是因为 充分统计量的所有函数组成的类， 则由 这样可以在充分统计量 的函数类 中寻找UMVUE。 但可能不 （若存在） 唯一。 为了在概率意义下确定唯一性，还需 这便是统计量的 对统计量提出合理的要求， 完全性。 定义4.3 的任一实值函数， 完全的(Complete) 。 则称 例4.3 证明 样本 ， 欲使上式恒成立， 只有左 边多项式的系数为零， 定理4.4 一个样本， 其密度函数（分布率）可表示为 其中 完全充分的。 （这个定理的详细证明可参见陈希孺著《数理统计引论》） 例4.4 解 对数分布密度函数为 因此样本的联合密度为 这样 有关应用定理4.4的说明： 从这个例子可以看出，实际上只需把总 体的密度函数（或分布率）分解成 性质和样本的独立性获得。 的形式可直接由指数函数的