数理统计方法3-1解析.docVIP

第3章 参数估计 §3.1 点估计 数理统计的主要任务之一，是要用样本估计总体的分布。在很多情况下，总体的分布属于什么形式往往是已知的，我们只是需要对总体分布中一些未知参数作出估计。这种估计称为参数估计。 参数估计又可以分为两种，一种是点估计，另一种是区间估计。 所谓点估计，就是当总体 分布的形式已知、但其中的参数未知时，从样本出发，求出个统计量，作为未知参数的估计。 在数理统计中，通常用记号 表示参数 的估计。 这里说的估计，有两方面的意义：一方面，估计可以看作是样本的函数，它是一个统计量，是随机变量，这样的估计也称为“估计量”；另一方面，如果已经得到样本观测值，把它们代入估计作为样本的函数的表达式，可以得到一个具体的数值，它是统计量的观测值，是一个数，这样的估计也称为“估计值”。 通常说到的“估计”，可以表示“估计量”，也可以表示“估计值”，具体指哪一个，从使用时的上下文，不难加以区分。 下面介绍几种求点估计的方法。 3.1.1 矩法估计 矩法估计的基本思想很简单。 在很多总体分布中，要估计的未知参数，往往正好就是总体分布的矩（原点矩），。同时，另一方面，从样本我们可以算出样本矩，。可以证明，当样本容量充分大时，样本矩 是总体矩 的良好近似。所以，我们很自然地会想到，用样本矩来作为总体矩的估计。 当然，也有一些要估计的未知参数，并不正好就是总体分布的矩，那又怎么办呢？我们知道，总体矩是从总体分布计算出来的，其中必然包含总体分布中的未知参数，所以，我们可以让总体矩的估计等于样本矩，列出若干个等式，组成一个含有未知参数的方程组。一般来说，只要一个方程组中等式的个数等于未知数的个数，就可以从这个方程组中把未知数求解出来。这就是矩法估计的基本思想。 求矩法估计的步骤为： （1）计算总体分布的矩，，计算到阶矩为止（是总体分布中未知参数的个数）。 （2）列方程 从方程中解出，它们就是未知参数的矩法估计。 例1 设总体 ～， 是未知参数， 是 的样本，求的矩法估计。 解 先求总体分布的矩，得到 ， 。 再列方程 从（1）得 ，代入（2）可得 ， 开方后得 ，由于 ，舍去不符合题意的负根，最后得到 和的矩法估计 ， 。 如果我们把（而不是把）作为一个未知参数，仍然可以用上面的方程求解，求得 的矩法估计 。我们看到，有。这个性质可以推广到一般的情形，一个参数的函数的矩法估计，就是这个参数的矩法估计的函数，即有。 例2 设总体服从 上的均匀分布，概率密度为 是未知参数， 是 的样本，求 的矩法估计。 解 先求总体分布的矩 。 再列方程 。解此方程，得到的矩法估计 。 例3 设总体的概率分布为 ，，其中 是未知正整数，是 的样本，求的矩法估计。 解 先求总体分布的矩，得到 。 列方程 ，解得 ，就是的矩法估计。 矩法估计的优点是计算简单，但是，它也有一些缺点。 （1）矩法估计有时会得到不合理的解。 例如，在上面的例2中，设有样本观测值，按上面的计算可得矩法估计 ，也就是说，我们估计总体服从的是上的均匀分布。可是，实际上我们已知有一个样本观测值，所以，总体分布的上界不应该小于，显然，估计 是不合理的。 又例如，在上面的例3中，必须是一个正整数，我们得到的矩法估计 却不一定是正整数，显然，这样的估计也是不合理的。 （2）求矩法估计时，不同的做法会得到不同的解。 通常我们规定，求矩法估计时，要尽量使用低阶矩。但是，也没有什么充分理由禁止使用高阶矩。值得注意的是，使用低阶矩与使用高阶矩可能会得出不同的解。 例如，在上面的例2中，如果不是求总体的1阶矩，而是求总体的2阶矩 。 解方程 ，可得 ，显然，它与 是两个完全不同的解。 （3）总体分布的矩不一定存在，所以矩法估计不一定有解。 例如，设总体的概率密度为 其中， 是未知参数。 求总体的1阶矩 。 这个积分发散，所以1阶矩不存在，矩法估计当然也就无解了。 正因为矩法估计有这样一些缺点，所以，有人提出了另一种估计方法。 3.1.2 极大似然估计 为了说明极大似然估计的基本思想，我们来看一个实际的例子。 某射手向一个目标连续射击，他每次射击时的命中率为（）是一个未知常数。设有一个随机变量 ，当射手射击命中目标时，它取值为1 ，当射手射击没有击中目标时，它取值为0 。显然， 服从0-1分布，概率分布为 ， ，即有 ，。 现在让这个射手向目标试射5次，结果前2次没有命中目标，后3次都命中目标，要求对他的命中率作出估计。 这可以看作是一个点估计问题。随机变量 可以看作是一个服从0-1分布的总体，命中率是总体分布中的未知参数。已知有样本观测值，要求未知