参数估计极大似然法.pptVIP

* 极大似然估计法 极大似然原理的直观想法是:一个随机试验如有若干个可能的结果A,B,C,….若在一次试验中,结果A出现, 则一般认为A出现的概率最大,也即试验条件对A出现有利.或者说在试验的很多可能条件中，认为应该是使事件A发生的概率为最大的那种条件存在. 极大似然估计的基本思想 例：假若一个盒子里有许多白球和红球,而且已知它们的数目之比是3:1,但不知是白球多还是红球多.设随机地在盒子中取一球为白球的概率是p.如果有放回地从盒子里取3个球,那么白球数目X服从二项分布 如果样本中白球数为0,则应估计p=1/4,而不估计p=3/4.因为具有X=0的样本来自p=1/4的总体的可能性比来自p=3/4的总体的可能性要大.一般当X=0,1时,应估计p=1/4;而当X=2,3时,应估计p=3/4. 极大似然估计法的思想： 设总体X的密度函数为f(x,?)，?为未知参数，则 样本（X1,X2,…,Xn）的联合密度函数为 令 参数?的估计量 ，使得样本（X1,X2,…,Xn）落在观测 值 的邻域内的概率L(?)达到最大，即 则称 为参数?的极大似然估计值。 令 求极大似然估计的一般步骤归纳如下： 例:设随机变量X服从泊松分布: 其中λ0是一未知参数,求λ的极大似然估计. 解 设(x1,x2,…,xn)是样本 (X1,X2,…,Xn)的一组观测值.于是似然函数 两边取对数得 从而得出λ的极大似然估计量为 解这一方程得 解 总体X服从参数为λ的指数分布，则有 所以似然函数为 取对数 令 解得λ的极大似然估计值为 极大似然估计量为 例:设(X1,X2,…,Xn)是来自正态总体N(μ,σ2)的一个样本,其中μ,σ2是未知参数,参数空间Θ={-∞ μ ∞, σ2 0}.求μ与σ2的极大似然估计. 解 正态分布的似 然函数为 两边取对数得 由微积分知识易验证以上所求为μ与σ2的极大似然估计. 分别求关于μ与σ2的偏导数,得似然方程组 解这一方程组得 *