62点估计及评价标准.docVIP

6.2点估计的评价标注 我们已经看到，点估计有各种不同的求法，为了在不同点估计间进行比较选择，就必须对各种点估计的好坏给出评价标准. 数理统计中给出了众多的估计量评价标准，对同一估计量实用不同的评价标准可能会得到完全不同的结论，因此在评价某一个估计好坏时首先要说明是在哪一个标准下，否则所论好坏则毫无意义. 但不管怎么说，有一个基本标准时所有的估计都应该满足的，它是衡量一个估计是否可行的必要条件，这就是估计的相合性，我们就从相合性开始。 6.2.1 相合性 我们知道，点估计是一个统计量，因此它是一个随机变量，在样本量一定的条件下，我们不可能要求它完全等同于参数的真实取值。但如果我们有足够的观测值，根据格里文科定理，随着样本量的不断增大，经验分布函数逼近真实分布函数，因此完全可以要求估计量随着样本量的不断增大而逼近参数真值，这就是相合性，严格定义如下： 定义6.2.1 设为未知参数，是的一个估计量，是样本容量，若对任何一个，有 则称为参数的相合估计。 相合性被认为是对估计的一个最基本的要求，如果一个估计量，在样本量不断增大时，它都不能把被估参数估计到任意指定的精度，那么这个估计值是很值得怀疑的。通常，不满足相合性要求的估计一般不予考虑。证明估计的相合性一般可应用大数定律或直接由定义来证。 若把依赖于样本量的估计量看作一个随机变量序列，相合性就是依概率收敛于，所以证明估计的相合性可应用依概率收敛的性质以及各种大数定律。 例6.2.1 设是来自正态总体的样本，则有辛钦大数定律及依概率收敛的性质知： 是的相合估计； 是相合估计； 也是的相合估计。 由此可见参数的相合估计不止一个。 在判断估计的相合性时下述两个定理是很有用的。 定理 6.2.1 设是的一个估计量，若 则是的相合估计。 证明：对任意的，由切比雪夫不等式有 另一方面，由可知，当充分大时有 注意到此时如果，就有 故 由此即有 定理得证。 例 6.2.2 设是来自均匀总体的样本，证明的最大似然估计是相合估计。 证明 在例6.1.8中我们已经给出的最大似然估计是。由次序统计量的分布，我们知道的分布密度函数为 故有 由定理6.2.1可知，是的相合估计。 定理 6.2.2 若分别是的相合估计，是的连续函数，则是的相合估计。 证明 有函数的连续性，对任意给定的，存在一个，当，有 （6.2.3） 又由的相合性，对给定的，对任意给定的，存在正整数，使得时, . 从而有 根据（6.2.3）,,故有 , 由的任意性，定理得证. 由大数定律及定理6.2.2,我们可以看到，矩估计一般都具有相合性.比如： ·样本均值是总体均值的相合估计； ·样本标准差是总体标准差的相合估计； ·样本变异系数是总体变异系数的相合估计. 例 6.2.3 设一个试验有三种可能结果，其发生概率分别为 现做了次试验，观测到三种结果发生的次数分别为 ，可以采用频率 替换方法估计.由于可以有三个不同的的表达式： 从而可以给出三种不同的频率替换估计，它们分别是： 由大数定律，分别是的相合估计，由定理6.2.2知， 上述三个估计都是的相合估计. 无偏性 相合性是大样本下估计量的评价标准，对小样本而言，需要一些其他的评价 标准，无偏性便是一个常用的评价标准 . 定义 6.2.2 设是的一个估计，的参数空间为，若对 任意的 ,有 , 则称是的无偏估计，否则称为有偏估计. 无偏性要求可以改写为，这表示无偏估计没有系统偏差.当我们使用估计时,由于样本的随机性,与总是有偏差的,这种偏差时而（对某些样本观测值）为正,时而（对另一些样本观测值）为负,时而大,时而小.无偏性表示，把这些偏差平均起来其值为0，这就是无偏估计的含义.而若估计不具有无偏性，则无论使用多少次，其平均也会与参数真值有一定距离，这个距离就是系统误差. 例 6.2.4 对任一总体而言，样本均值是总体均值的无偏估计.当总体k阶 矩存在时,样本k阶原点矩是总体k阶原点矩的无偏估计.但对k阶中心 矩则不一样,譬如,样本方差就不是总体方差的无偏估计,因为在定理 5.2.1中已经指出 ： . 对此，有如下两点说明： 当样本趋于无穷时，有，我们称为的渐近无 偏估计，这表明当样本量较大时，可近似看作的无偏估计. 若对作如下修正： ， (6.2.5) 则是总体方差的无偏估计.这种简单的修正方法在一些场合被采用.（6.2.5） 定义的也称为样本方差，它比更常用.这是因为在时，，因此用估计有偏小的倾向，特别在小样本场合要使用估计. 无偏性不具有不变性.即若是的无偏估计，一般而言，不是的无偏估计，除非是的线性函数.譬如，是的无偏估计，但s不是的无偏估计.下面我们以正态分布为例加以说明. 例 6.2.5 设总体为是