6[1].2极大似然估计.pptVIP

* * §6.2 极大似然估计 极大似然估计是在母体类型已知条件下使用的一种参数估计方法 . 它首先是由德国数学家高斯在1821年提出的 , 费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质 . 先通过一个简单的例子来说明极大似然估计的基本思想 一只野兔从前方窜过， 是谁打中的呢？ 某位同学与一位猎人一起外出打猎 . 如果要你推测， 你会如何想呢? 只听一声枪响，野兔应声倒下 . 下面我们再看两个例子,进一步体会极大似然法的基本思想 . 你就会想，只发一枪便打中,猎人命中的概率一般大于这位同学命中的概率.看来这一枪是猎人射中的. 这个例子所作的推断已经体现了极大似然法的基本思想 . 例1 一个箱子里装有黑、白球共9个,我们从中随机地无放回地抽取三个球，发现恰有2个黑球，请猜一下(估计)箱子里有几个黑球，几个白球. 这是典型的“黑箱”问题.可以这样来分析、推断： 随机所以能取得“二个黑球一个白球”这是由箱中球的状况决定的.我们就从这个“信息”出发. 箱中球的状况 能取得二个黑球一个白球的 (所有可能情形) 可能性大小 黑球数 白球数 P 1. 1 8 0 2 . 2 7 3. 3 6 4. 4 5 5. 5 4 6. 6 3 7. 7 2 8. 8 1 9. 9 0 0 10. 0 9 0 比较这些概率的大小 ，我们可以推断箱中黑球数最有可能是6个(显然，这个推断不是绝对正确的). 这是一种新的逻辑推理方法：根据概率最大，推断 “事情”发生的原因是什么. 例2 一批产品，合格品率为p，从中抽得 子样 (1, 1，0, 1，1)，其中1为合格品，0为不合格品，试估计这批产品的合格品率p. 它是p的一个函数 解：该母体ξ服从两点分布： ξ 0 1 P 1-p p 因此，出现此子样的可能性的大小，是概率 这时, 对一切0p1,均有 以上这种选择一个参数使得实验结果具有最大概率的思想就是极大似然法的基本思想 . 极大似然估计原理： 当给定子样观测值x1, x2,…, xn时, 定义似然函数（likelihood function）为： 设ξ1,ξ2,…,ξn是取自母体ξ的一个子样，θ为未知参数，子样的联合密度(连续型）或联合分布列(离散型)为 f (x1, x2,…, xn; θ) =f (x1, x2,…, xn; θ) L(θ)=L (θ ;x1, x2,…, xn) 极大似然估计法就是用使L(θ)达到最大值的 去估计θ，即 L(θ)看作参数θ的函数，它可作为θ将以多大可能产生子样观测值x1, x2,…, xn的一种度量 . 则称 为θ的极大似然估计（MLE）. §6.2 极大似然估计 极大似然估计原理： 设ξ1,ξ2,…,ξn是取自母体ξ的一个子样，θ为未知参数，子样的联合密度(连续型）或联合分布列(离散型)为 f (x1, x2,…, xn; θ) 定义似然函数（likelihood function） = f (x1, x2,…, xn; θ) L(θ)=L (θ ;x1, x2,…, xn) 极大似然估计法就是用使L(θ)达到最大值的 去估计θ，即 则称 为θ的极大似然估计（MLE）. 定义似然函数（likelihood function） =f (x1, x2,…, xn; θ) L(θ)=L (θ ;x1, x2,