中科大概率统计课件7-2_极大似然估计.pdfVIP

三、极大似然法 极大似然估计法是参数估计的一种方法。已知某个 随机样本满足某种概率分布，但是其中具体的参数不清 楚，就是通过若干次试验，观察其结果，利用结果推出参 数的大概值（参数估计）。它最早由高斯提出。后来为费 歇在1912年的文章中重新提出，并且证明了这个方法的一 些性质。极大似然估计这一名称也是费歇给的。这是一种 目前仍然得到广泛应用的方法。 它是建立在极大似然原理的基础上的一个统计方法。 极大似然原理的直观想法是：一个随机试验如有若干个可 … 能的结果A，B，C， 。若在一次试验中，结果A出现，则 一般认为试验条件对A出现有利，也即A出现的概率很大。 换句话说：已知某个参数能使这个样本出现的概率最大， 我们当然不会再去选择其他小概率的样本，所以干脆就把 这个参数作为估计的真实值。 思想方法：一次试验就出现的事件有较大的概率 从一个例子入手来了解极大似然估计法的直观想法: 例如: 有两个外形相同的箱子,都装有100个球 一箱 99个白球， 1个红球 一箱 1个白球，99个红球 现从两箱中任取一箱，并从箱中任取一球， 结果所取得的球是白球。 问 所取的球来自哪一箱？ 答 极有可能是第一箱. 因此极大似然估计法就是要选取这样的数值 作为参数的估计值，使所选取的样本在被选 的总体中出现的可能性为最大. 极大似然估计的基本思想 设总体中含有待估参数 ，它可以取很  多值，我们要在 的一切可能取值之中  选出一个使样本观察值出现的概率为最 ˆ 大的 值作为其估计，并称 为 极大    似然估计 第七章参数估计 §1 点估计 1) 若总体X 属离散型，其分布律 P {X x } p (x ;),  的形式为已知， 为待估参数，是 可能取值的范围。 设X , X ,…, X 为总体X 的样本, x , x ,…, x 1 2 n 1 2 n 为总体X 的样本值, 则X 1 , , X n 的联合分布律： n p (x ;) i i 1 事件{X 1 x 1 , , X n x n }发生的概率为： n L() L(x , , x ;) p (x ;),  . 1 n i i 1 它是 的函数. L()称为样本的似然函数 . 第七章参数估计 极大似然法原理： , , , ( , , ; ) 固定x 1  x n 挑选使概率L x 1  x n  达到最大