11第11章参数估计.docVIP

 PAGE 24 第十一章 参数估计 参数估计是统计推断的基本问题之一。这里主要介绍参数估计的两种方法，即点估计和区间估计。 11.1点估计 设为总体，若为连续型，具有密度函数；若为离散型，则假定有概率分布， ，这里的为未知参数。例如对正态总体，为未知参数，它的密度函数为 。 若总体服从二项分布，由于为试验次数，是已知的，因此的分布中只有为未知参数，其概率分布为 。 那么，如何估计未知参数呢？以为例，为了估计，首先必须从中抽取样本，由大数定律知道，当很大时，以很大的概率与充分接近，因而自然地把样本均值作为总体均值的估计量。 一般地，设是来自总体的样本，点估计问题就是要求构造统计量作为参数的估计，称这一统计量为的一个估计量，若是的一组观察值，代入得到具体的数值，称它为的估计值。今后，估计量和估计值将不再强调它们的区别???在不至于引起混淆的场合将统称为估计。因此，为了估计未知参数，必须先构造合适的统计量，最常用的构造统计量的方法有两种：矩估计法和最大似然估计法，分别介绍如下。 11.1.1矩估计法 矩估计法是一种古老的统计方法，由英国统计学家K.Pearson于1894年提出，这一方法简单而且直观。对于连续型总体，它的阶原点矩为 ， 若为离散型的，则 。 对于样本，其阶样本原点矩为 ， 现在用样本矩作为总体矩的估计，即令 ， 解这一含个未知参数的方程组，记其解为 ， 称它们为的矩估计。 矩估计法的理论依据是：由于是来自总体的简单随机样本，因而独立同分布，从而，由大数定律，作为的算术平均依概率收敛到均值，即 于是，对于充分大的，有，将“”改成“=”，这就是矩估计法依据的方程组。 例1 设总体，为未知参数，为来自的简单随机样本，求的矩估计。 解 易知 令 解这一方程组，得到和的矩估计为 。 不难看出，上述结论对所有总体都是成立的，即对一切均值为，方差为的总体，不管总体的具体形式如何，和的矩估计总是 。 例2 设总体，即具有概率密度 ， 这里为未知参数，为抽自的简单随机样本，由于，，令 由此可解得和的矩估计为 其中 。 例 3 求事件发生概率的矩估计。 解 记事件发生的概率为，定义随机变量 则，对做次试验，观测到 ， 则的矩估计为 ， 这里为次试验中事件发生的次数，因而是次试验中事件发生的频率。由此可见，频率是概率的矩估计。 11.1.2最大似然估计法 最大似然估计法最早由高斯（C.F.Gauss）提出，后来由费歇（R.A.Fisher）于1912 年重新提出，并证明了这一方法的性质。最大似然估计法在理论上有优良的性质，是目前得到广泛应用的估计方法。下面我们结合例子来介绍最大似然估计的思想和方法。 假设在一个罐中放着许多黑球和白球，并假定已知它们的数目之比为，但不知哪种颜色的球多。如果我们有放回地从罐中抽取个球，则其中的黑球数服从二项分布： ， 其中，，由假定知道可能取或。 现在根据样本中的黑球数，来估计未知参数，也就是说在和之间作一选择。对抽样的四种可能结果计算出相应的概率： 0123时的值 时的值     表8-1 从表1中可见，如果样本中的黑球数为0，那么具有的样本来自的总体的可能性比来自的总体的可能性大，这时应当估计为而不是。如果样本中黑球数为2，那么具有的样本来自的总体的可能性比来自的总体的可能性大，这时应当估计为而不是。从而可以选择估计量： ， 也就是说根据样本的具体情况来选择估计量，使得出现该样本的可能性最大。 一般地，若总体具有概率密度，其中为未知参数，又设是样本的一组观察值，那么样本落在点的邻域内的概率为，它是的函数。最大似然估计的直观想法是：既然在一次试验中得到了观察值，那么我们认为样本落入该观察值的邻域内这一事件应具有最大的可能性，所以应选取使这一概率达到最大的参数值作为参数真值的估计。记 , 称它为似然函数 。 对于固定的，记，选取，使得，则称为的一个最大似然估计值 。 若总体是离散型的，则似然函数为 , 其中为总体的概率分布。 求的最大似然估计就是求似然函数的最大值点的问题。若对（）的偏导数存在，由微积分知识，最大似然估计应满足方程组 ， （1） 称（1）为似然方程组。由于在许多情况下，求的最大值点比较简单，而且是的严格增函数，因此在对（）的偏导数存在的情况下，可由 ， （2） 求得。称（2）为对数似然方程组。解这一方程组，若的驻点唯一，又能验证它是一个极大值点，则它必是的最大值点，即为所求的最大似然估计。但若驻点不唯一，则需进一步判断哪一个为最大值点。还需指出的是，若对（）的偏导数不存在，则我们无法得到方程组（8-2），这