第九篇 参数估计.docVIP

第九章 参数估计 本章开始介绍统计推断，即依据母总体中取得的一个简单随机子样队总体进行分析和推断。统计推断分成两大部分，一是参数估计，另一是假设检验。参数估计又分点估计与区间估计两种。前者是用一个适当的统计量作为参数的近似值，我们称之为该参数的估计量，后者则是用两个统计量所界定的区间来指出真实参数值的大致范围。 这里所指的参数是指如下三类未知参数： ⒈分布中所含的未知参数，如：二点分布中的概率；正态分布中的和 ⒉分布中所含的未知参数的函数。如：服从正态分布的变量不超过某给定值的概率是未知参数的函数；单位产品的缺陷数通常服从泊松分布，则单位产品合格（无缺陷）的概率是未知参数的函数。 ⒊分布的各种特征数也都是未知参数，如：均值，方差，分布中位数等。 一般场合，常用表示参数，参数所有可能取值组成的集合称为参数空间，常用表示，参数估计问题就是根据样本对上述各种未知参数做出估计。 参数估计的形式有两种：点估计与区间估计。这里我们先从点估计开始。 设是来自总体的一个样本，我们用一个统计量的取值作为的估计值，称为的点估计（量），简称估计。这里如何构造统计量并没有明确的规定，只要它满足一定的合理性即可。这就涉及两个问题： ⑴其一是如何给出估计，即估计的方法问题； ⑵其二是如何对不同的估计进行评价，即估计的好坏判断标准。 下面介绍一些点估计的方法。 §9.1点估计和估计量的求法 人们可以运用各种方法构造出很多的估计，本节介绍两种最为常用的点估计方法：矩法和最大似然法。 9.1.1替换原理和矩法估计 1900年统计学K.Pearson家提出了一个替换原则，后来人们称此方法为矩法。 一、矩法估计 替换原理常指如下两句话： ⒈用样本矩去替换总体矩，这里的矩可以是原点矩也可以是中心矩； ⒉用样本矩的函数去替换相应的总体矩的函数。 根据这个替换原理，在总体分布形式未知场合也可以对各种参数做出估计，譬如： ⒈用样本均值估计总体均值，即； ⒉用样本方差估计总体方差，即； ⒊用事件出现的频率估计事件发生的概率； ⒋用样本的分位数估计总体的分位数，特别，用样本中位数估计总体中位数。 矩法估计的统计思想（替换原理）十分简单明确，众人都能接受，使用场合甚广，它的实质是用经验分布函数去替换总体分布，其理论基础是格里纹科定理。 二、概率函数已知时未知参数的矩法估计 设总体具有已知的概率函数是未知参数或参数向量，是样本，假定总体的阶原点矩存在，则对所有的都存在，若假设能够表示成的函数，则可给出诸的矩法估计： 其中是前个样本原点矩：。进一步，如果我们要估计的函数，则可直接得到的矩法估计 当时，我们通常可以由样本均值出发对未知参数进行估计；如果，我们可以由一阶、二阶原点矩（或二阶中心距）出发估计未知参数。 例9.1.1正态总体的分布是。求的矩估计。 由可得 例9.1.2在泊松分布的总体中，求的矩估计 由可得 例9.1.3在二项分布的总体中，是已知的，求的估计量。 由，有，所以 例9.1.4设总体具有分布，其密度为 其中，试求的矩估计。 这里计算数学期望和方差可得 因而 解方程得 例9.1.5设总体为指数分布，其密度函数为 是样本，此处由于，即，故的矩法估计为 另外，由于，其反函数为，因此，从替换原理来看，的矩法估计也可取为 这说明矩估计可能是不唯一的，这是矩法估计的一个缺点，此时通常应该尽量采用低阶矩给出未知参数的估计。 例9.1.6是来自上的均匀分布的样本，均是未知参数，这里由于 不难推出 由此可得的矩估计 若从均匀总体获得如下一个容量为的样本：，经计算，有，于是可得的矩估计为 使用矩法估计的一个前提是总体存在适当阶的矩，阶数应不小于待估参数的个数（或者是参数空间的维数），但这不总是可以做到的。 例9.1.7柯西分布（Cauchy）设总体具有密度函数 显然它的各阶矩皆不存在，因此不能用矩法估计来估计参数，另外尽管矩法估计简便易行，且只要充分大，估计的精度也很高，但它只用到总体的数字特征的形式，而未用到总体的具体分布形式，损失了一部分很用的信息，因此在很多场合下显的粗糙和过于一般。 9.1.2最大似然估计 最大似然估计是求估计用的最多的方法，它最早是由高斯在1821年提出，但一般将之功归功于费希尔（R.A.Fisher），因为费希尔在1922年再次提出了这种想法并证明了它的一些性质而使最大似然法得到了广泛的应用。 先通过一个实例介绍最大似然估计。 例9.1.8设有一大批产品，其废品率为。今从中随意地取出个，其中有个废品，试估计的数值。 若正品用“”表示，废品用“”表示。此总体的分布为 即 取得的子样记为，其中个是“”，个是“”。出现此子样的概率为 这个概率随的数值不同而不同。自然选择使此概率达到最大的值作为真正废品率的估计值。记。用高等数学中求极值