参数估计 概率论与数理统计.doc

第六章 参数估计 内容 提要 本章主要讲述点估计（矩法估计，极大似然估计）；估计量的评价准则（无偏性，最小方差性和有效性，其它几个准则）；区间估计（区间估计的一般步骤，单个正态总体参数的区间估计，双正态总体参数的区间估计，非正态总体参数的区间估计）等内容． 重点 分析 理解点估计的概念，掌握矩估计法（一阶、二阶）。了解极大似然估计法。 了解估计量的评选标准（无偏性、有效性、一致性）。 理解区间估计的概念，会求单个正态总体的均值与方差的置信区间，会求两个正态总体的均值差与方差比的置信区间。 难点 分析 矩法估计，极大似然估计。 估计量的评价准则。 正态总体参数的区间估计。 教 学 内 容( Contents ) 第六章 参数估计(Chapter Six Parameter Estimation) 6.1 点估计(Point Estimation) 1. 矩估计法(Square Estimation) 如上所述，例5.4中我们所做的对该地区农户的平均收入水平和贫富悬殊程度做出推断这一工作，用数理统计的话说，实质上是对总体的未知参数期望值与方差值进行估计。我们当时是分别用样本均值和样本方差来反映这两个量的，那么这样做是否合理？直观来看这样做是合理的，从概率论的观点看也是合理的。事实上，若总体的期望存在，是出自的样本，则由柯尔莫哥洛夫强大数定律，以概率为１地成立 而上式左边极限号内正是样本均值，因此,我们常用作为的估计值。不仅如此，若的阶矩存在，，则同样由柯尔莫哥洛夫强大数定律得出 以概率为１成立。于是，同样可用样本阶原点矩来近似，这种用样本原点矩去估计总体相应原点矩的方法，即是所谓的矩估计法。一般地，若总体的分布有个参数，则显然，总体的阶矩（）如果存在的话，必依赖这些参数，即 按照用样本矩近似真实矩的原则，可得方程 (6.1) 若上述关于的方程组有唯一的解 则称是的矩估计量(Square Estimator)或矩估计。 Example 6.1 按矩估计的定义，无论总体是什么分布，阶样本原点矩均是它们相应真实原点矩的矩估计量，只要真实矩存在。因当我们将视为未知参数时，显然是方程组（6.1）的唯一解。 Example 6.2 无论总体为什么分布，只要二阶矩存在，则样本方差为方差的矩估计量。 Solution 设为一样本，我们有 故 记为．第三步等号再一次用到习题5.4． 需要估计的参数也可以不是总体的数字特征。 Example 6.3 设为[]上的均匀分布，为样本，求的矩估计。 Solution 令 解上述关于的方程得 Example 6.4 贝努利试验中，事件发生的频率是该事件发生概率的矩法估计。 Solution 此处，实际上我们视总体为“唱票随机变量”，即服从两点分布： 求参数的矩法估计。 设为的一个样本，若其中有个等于1，则即为事件发生的频率，另一方面，显然 故有． 应用中许多问题可归结为例6.4，如废品率的估计问题等。特别对固定的，经验分布函数也可在某种意义下看成是的矩估计。因为我们在5.3.2节中讲过，是次试验中事件发生的频率，而已知是的概率。当然这一矩估计所涉及的总体已不是原来的总体，而是相应的“唱票随机变量”。 并非所有建立了方程组(6.1)的矩估计问题都能得到的解析表达式。 Example 6.5 设总体的密度函数为 为此总体的样本。则可以算出 其中为伽(Gamma)函数，按矩估计原理分别用取代，得到形如（6.1）的方程组，但无法得到简单的解析表达式，只能求的数值解。（见习题6.20） 使用矩估计法的一个前提是总体存在适当阶的矩，阶数应不小于待估参数的个数（或者说参数空间的维数），但这不总是可以做到的。 Example 6.6 柯西（Cauchy）分布 设总体具有密度函数 显然，它的各阶矩皆不存在，因此,不能用矩估计法来估计参数．另外,尽管矩估计法简便易行，且只要充分大，估计的精确度也很高，但它只用到总体的数字特征的形式，而未用到总体的具体分布形式，损失了一部分很有用的信息，因此，在很多场合下显得粗糙和过于一般。 2. 极大似然估计(Maximum Likelihood Estimation) 参数的点估计方法中另一个常用方法就是极大似然估计，简记为（Maximum Likelihood Estimation）。从字面上来理解,就是通过对样本的考察，认为待估参数最象是取什么值即作为对参数的估计，事实上,极大似然估计原理也大致如此。我们通过一个具体例子来说明这一估计的思想。 Example 6.7