概率论和数理统计-浙江大学邮件系统.docVIP

PAGE PAGE 17 第五章点估计与区间估计 设总体X的分布类型已知，参数未知，如分布函数为（或分布律为，概率密度为），是未知参数，如已知总体服从泊松分布，未知；总体服从均匀分布，区间两端未知，是两个未知参数等。于是从总体中抽取简单随机样本，来估计未知参数。估计的方式有两种，一是构造统计量估计，称为点估计，另一种是构造一个区间，使该区间覆盖参数真值的概率达到要求的置信度，称为区间估计。下面分别介绍这两种方法。 5.1 矩估计 极大似然估计 设总体X的分布已知，如概率密度为（或分布律为），是未知参数，根据获得的样本，如何构造点估计？下面介绍两种经典的方法：矩估计法和极大似然估计法。 矩估计的思想是将未知的参数转化为未知的总体矩，而总体矩用样本矩进行估计。具体步骤如下： 第1步，计算 第2步，将参数转化为总体矩的函数 第3步，由样本矩估计总体矩得参数的矩估计 注：如果有k个未知参数，要求总体至少有k阶矩存在，且一一对应，否则要用到更高阶矩。 例如，总体只有一个参数，计算，解得，从而矩估计。若总体未知，则，需要继续算二阶矩，解得，从而矩估计。 若要估计的是总体的均值和方差，计算，解得，于是矩估计为这也说明如果总体有两个未知参数，那么 解得 与 解得同解。 例5.1.1 设总体，是总体X的简单随机样本，（1）若均未知，求的矩估计；（2）若未知，，求的矩估计；（3）若未知，，求的矩估计。 解：（1）的矩估计为； （2）的矩估计为； （3），所以，，。 例5.1.2 设总体，未知，对总体进行5次独立重复观察，结果为3，1，1，2，2，求的矩估计值。 解：，，，所以的矩估计值。 极大似然估计的思想是参数的估计是使得样本值出现的概率达到最大对应的参数值。即 若总体X的分布律为，是未知参数，是总体的简单随机样本，其样本观测值为，称为似然函数，若满足，称为极大似然估计。 对于连续型随机变量的概率密度，是未知参数，是总体的简单随机样本，其样本观测值为，似然函数定义为，极大似然估计满足。这里，样本在观测值邻域的概率近似值为 ，而区域的大小与参数无关，是事先确定的，因此似然函数取为。 求极大似然估计通常采用的方法是： 第1步，根据样本求似然函数 ， 第2步，求对数似然函数， 第3步，令，解得即为参数的极大似然估计。 注1：取对数似然函数的目的只是简化计算，因为与在同一点达到极大值，而许多分布律或概率密度具有指数型，导数为0的解通常是可能的极值点，而对于分布律或概率密度而言，其解都是极大值点，因此不再去验证它。 注2：有些似然函数关于参数是单调函数，此时求导不可能等于0，这种情况通常发生在似然函数的取值范围与参数有关，极大似然估计按定义直接计算。 注3：若是的极大似然估计，则的极大似然估计为。 注4：“估计”是“估计量”和“估计值”的统称，若估计结果是用样本表示的，就是估计量；如果估计结果是用样本观测值表示的，就是估计值。两者是不会引起混淆的。 例5.1.3 设总体，是总体X的简单随机样本，（1）若均未知，求的极大似然估计；（2）若未知，，求的极大似然估计；（3）若未知，，求的极大似然估计。 解：（1）， ， 即的矩估计与极大似然估计相同。 （2）， ， 即已知时，的矩估计与极大似然估计相同。 （3）， ， 即时，的矩估计与极大似然估计不相同。 例5.1.4 设总体X的概率密度为，为未知参数，是X的简单随机样本，求的矩估计与极大似然估计。 解：矩估计：。 极大似然估计：， 。 例5.1.5 设总体未知，是X的简单随机样本，求的矩估计与极大似然估计。 解：矩估计：。 极大似然估计：，等价于 ，而似然函数关于单调增，关于单调减，因此的最大值与的最小值分别为的极大似然估计，注意到的取值不高于，的取值不低于，因此的极大似然估计为 。 5.2 估计量的评选标准——无偏性 从上节的例中看出，用不同的方法得到参数的不同估计量，那么这些估计量如何进行比较呢？所以，这一节介绍估计量的一些重要的也是基本的评选标准。 设总体X有未知参数，是总体X的简单随机样本，依据某种方法，得到的估计量，若，称是的无偏估计量。 例5.2.1 设总体X的数字特征存在，是总体X的简单随机样本。证明：（1）是的无偏估计，特别地，是的无偏估计；（2）不是的无偏估计，而是的无偏估计。 证明：（1）； （2） ， ，。 例5.2.2 总体，未知，是总体X的简单随机样本，由例5.1.1和例5.1.3，得的矩估计为，极大似然估计为，判断它们是否为的无偏估计。 解：， ，均是无偏估计。 下面通过一个简单例子说明无偏估计的意义。 例5.2.3 设总体X的分布律如下表所示，则总体均值为8/3＝2.66667 X的取值 1 3 4 概率