36无偏性及有效性.pptVIP

湘潭大学数学与计算科学学院 定理3.6.1 (Cramer-Rao不等式)设X1,X2,…Xn是 从密度函数为 的总体抽取的样本, 是 的一个无偏估计, 若 集合 与 无关; 对 积分与微分可交换且 存在，即 (3) 费希尔信息量是数理统计学中一个基本概念，很多的统计结果都与费希尔信息量有关。如极大似然估计的渐近方差，无偏估计的方差的下界等都与费希尔信息量I(? )有关。I(? )的种种性质显示，“I(? )越大”可被解释为总体分布中包含未知参数? 的信息越多。 例 设总体服从泊松分布 ， X1,X2,…Xn 是来自总体的一个样本，试求参数 的无偏估计的下界？ 例 设 X1,X2,…Xn 是取自总体 X~ 的一个样本, 求 的无偏估计的方差下界. 解: (1) 写出密度函数 (2) 求密度函数对数、再求导 (3) 计算 (4) 代入C-R不等式求方差下界 最后寻找无偏估计中满足方差下界的估计量. 例3.24 设 X1, X2, … Xn 是取自总体 X~B(N, p) 的一个样本，验证 是参数P的有效估计量. 2、有效估计 1.写出概率函数,再求对数 2. 计算fiser信息量 3.代入C-R不等式求方差下界 3.6 点估计的优良性准则 为估计 ,我们需要构造出适当的样本的函数T(X1,X2,…Xn)，每当有了样本，就代入该函数中算出一个值，用来作为 的估计值 . 把样本值代入T(X1,X2,…Xn) 中，得到 的一个点估计值 . T(X1,X2,…Xn)称为参数 的点估计量， X~N( ) 使用什么样的统计量去估计 ？ 问题是: 可以用样本均值; 也可以用样本中位数; 还可以用别的统计量 . (2) 怎样决定一个估计量是否比另一个估计 量“好”？ 需要讨论以下几个问题: (1) 我们希望一个“好的”估计量具有什么 特性？ (3) 如何求得合理的估计量？ 这是因为估计量是样本的函数，是个随机变量 . 因此，由不同的观测结果，就会求得不同的参数估计值. 因此一个好的估计，应在多次试验中体现出优良性 .即需要讨论对应于样本分布所得到的估计量的分布。 二、估计量的优良性准则 在介绍估计量优良性的准则之前，我们必须强调指出： 评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由多次试验结果来衡量 . 常用的几条原则标准是： 1. 无偏性 2. 有效性 3. 相合性 估计量是随机变量，对于不同的样本值会得到不同的估计值 . 我们希望估计值在未知参数真值附近摆动，而它的期望值等于未知参数的真值. 这就导致无偏性这个标准 . 一、无偏性 则称 为估计量 的偏差 . 若 则称 为 的渐近无偏估计 . 若 则称 为 的无偏估计 . 设 是未知参数 的估计量，若 1. 定义3.6.3 P78 例如，用样本均值作为总体均值的估计时，虽无法说明一次估计所产生的偏差，但这种偏差随机地在0的周围波动，对同一统计问题大量重复使用不会产生系统偏差 . 无偏性是对估计量的一个常见而重要的要求 . 无偏性的实际意义是指没有系统性的偏差 . 例3.6.2 设X1,X2,…,Xn是取自具有一阶矩、二阶矩存在的总体X一个样本，证明 证 一般的， 试问： 2. 无偏性的弱点 无偏估计量是对估计量的一个重要而常见的要求 ，实际意义是多次试验后没有系统性的偏差，也是工程技术中完全合理的要求，但不要一味认为估计量不满足无偏原则，就是“不好”的估计量。 (3) 无偏估计知只反映了估计量在参数真值附近波动。 例2 的样本，其中 事实上 设X1,X2,…,Xn是取自总体X： 但是，此估计量有明显的不合理： 从而，仅有无偏性原则不够。 例2 的样本，其中 设X1,X2,…,Xn是取自总体X： 证 例 所以无偏估计以方差小者为好, 这就引进了有效性这一概念 . 的大小来决定二者谁更优 . 和 一个参数往往有不止一个无偏估计, 若 和 都是参数 的无偏估计量， 我们可以比较 由于 二、有效性 D( ) ≤D( ) 则称 较 有效 . 都是参数 的