第7章参数估计解析.ppt

练习： 练习： * 第七章 在数理统计的许多问题中，总体的分布类型往往假定是已知的，例如，大批灯泡的寿命服从正态分布，纺织厂细纱机上的断头次数服从普阿松分布，抽检若干件产品中所含的次品数服从二项分布，等等。但仅仅知道分布的类型是不够的，还需确定分布函数中的未知参数，才能求得所要求的概率。这就提出了参数估计的问题。 参数估计分为点估计和区间估计两种。 §1 点估计（Point Estimation） 二、矩法(The Method of Moments) 其基本思想是用样本矩估计总体矩 . 它是基于一种简单的“替换”思想建立起来的一种估计方法 . 是英国统计学家K.皮尔逊最早提出的 . 矩法估计的理论基础是: 辛钦大数定律. 记总体 k 阶矩为 样本 k 阶矩为 用相应的样本矩去估计总体矩的估计方法就称为矩估计法. 记总体 k 阶中心矩为 样本 k 阶中心矩为 例1 解 例2 最大似然法,也叫极大似然法,它最早是由高斯所提出的,后来由英国统计学家费歇(R·A·Fisher)于1912年在其一篇文章中重新提出,并且证明了这个方法的一些性质.极大似然估计这一名称也是费歇给的.它是建立在极大似然原理的基础上的一个统计方法.为了对极大似然原理有一个直观的认识,我们先来看几个例子. (The Method of Maximum Likelihood) 二、最大似然估计法 极大似然法的基本思想 先看一个简单例子： 一只野兔从前方窜过 . 是谁打中的呢？ 某位同学与一位猎人一起外出打猎 . 如果要你推测， 你会如何想呢? 只听一声枪响，野兔应声倒下 . 下面我们再看一个例子,进一步体会极大似然法的基本思想 . 你就会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率. 看来这一枪是猎人射中的 . 这个例子所作的推断已经体现了极大似然法的基本思想 . 设有外形完全相同的两个箱子,甲箱有99个白球1个黑球,乙箱有1个白球99个黑球.今随机地抽取一箱,然后再从这箱中任取一球,结果发现是白球.问这球是从哪一个箱子中取出的? 分析 导致结果是白球的原因有两个,一个是这球从甲箱取的,另一个就是这球从乙箱取的.如果是从甲箱取的,则取得白球的概率为99%;如果是从乙箱取的,则取得白球的概率为1%,由此看到,这球是从甲箱中取出的概率比从乙箱中取出的概率要大得多,因此很自然的,我们认为结论“这球是从甲箱中取出的”比结论“这球是从乙箱中取出的”要合理得多.最后我们作出推断,这球是从甲箱取出的. 极大似然估计法的基本思想：根据样本值来选择参数，使该样本发生的概率最大。具体做法如下： 为“似然函数”。 (4) 在最大值点的表达式中, 用样本值代入 就得参数的极大似然估计值 . 求极大似然估计(MLE)的一般步骤是： (1) 由总体分布导出样本的联合概率函数 (或联合密度); (2) 把样本联合概率函数(或联合密度)中自变 量看成已知常数,而把参数 看作自变量, 得到似然函数L( ); (3) 求似然函数L( ) 的最大值点(常常转化 为求ln L( )的最大值点) ，即 的MLE; 例3 解 设总体X服从指数分布，其密度函数为 (1) (2) (2) 得 例4 解 令 令 解得 它们与相应的矩估计量相同。 例5 解 设总体X的概率密度为 总体X的数学期望为 得 的矩估计量为 似然函数为 解得 的极大似然估计量为 比较： 的矩估计量为 例6 解 的密度函数为 似然函数为 比较： 由上例, 我们看到对于同一个未知参数,由不同的方法可以得到不同的估计量. 在本例中,如果X表示乘客的候车时间,随机抽样得到的5位乘客的候车时间为 0.5, 1, 2, 3.5, 8,则其矩估计值为6,而其极大似然估计值为8. P157 习题七 1.(1)(2) 2.(1)(2), 补充: 第二节 对于同一个参数,用不同的方法可以得到不同的估计量. 现在的问题是,当同一参数出现多个估计量时,究竟哪一个更好呢? 这就涉及到用什么标准来评价估计量的问题. 确定估计量好坏的标准必须是整体性的,说得明确一点就是,必须在大量观察的基础上从统计的意义上来评价估计量的好坏.也就是说,估计的好坏取决于估计量的统计性质.一般认为,一个“好”的估计量应该具有如下的条件: 估计量是随机变量, 对于不同的样本值就会得到不同的估计值, 希望估计值在未知参数真值左右徘徊, 最好它的数学期望等于未知参数的真值, 这就导致了无偏性这个标准。 定义