极大似然估计介绍.pptVIP

§6.2 极大似然估计 极大似然估计是在母体类型已知条件下使用的一种参数估计方法 . 它首先是由德国数学家高斯在1821年提出的 , 费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质 . 简单的例子 某位同学与NBA球员一起投篮 .三分线外两步远，手起球落，唰的一声篮球空心入网。如果要你推测，球是谁投中的？ 一般我们会想，这么远抬手就能投中,职业球员命中的概率一般大于这位同学命中的概率.这一球应是球员射中的.这个例子所作的推断体现了极大似然法的基本思想 . 极大似然估计原理： 当给定子样观测值x1, x2,…, xn时, 定义似然函数（likelihood function）为： 设ξ1,ξ2,…,ξn是取自母体ξ的一个子样，θ为未知参数，子样的联合密度(连续型）或联合分布列(离散型)为 f (x1, x2,…, xn; θ) =f (x1, x2,…, xn; θ) L(θ)=L (θ ;x1, x2,…, xn) 极大似然估计法就是用使L(θ)达到最大值的 去估计θ，即 L(θ)看作参数θ的函数，它可作为θ将以多大可能产生子样观测值x1, x2,…, xn的一种度量 . 则称 为θ的极大似然估计（MLE）. §6.2 极大似然估计 极大似然估计原理： 设ξ1,ξ2,…,ξn是取自母体ξ的一个子样，θ为未知参数，子样的联合密度(连续型）或联合分布列(离散型)为 f (x1, x2,…, xn; θ) 定义似然函数（likelihood function） = f (x1, x2,…, xn; θ) L(θ)=L (θ ;x1, x2,…, xn) 极大似然估计法就是用使L(θ)达到最大值的 去估计θ，即 则称 为θ的极大似然估计（MLE）. 定义似然函数（likelihood function） =f (x1, x2,…, xn; θ) L(θ)=L (θ ;x1, x2,…, xn) 求极大似然估计(MLE)的一般步骤: (1)由母体分布写出子样的联合分布列(或联合密度); (2) 把子样联合分布列(或联合密度)中的自变量看成已知常数,而把参数θ看作自变量,得到似然函数L(θ); (3) 求似然函数L(θ) 的最大值点(常常转化为求ln L(θ)的最大值点) ，即θ的MLE 2、用上述求导方法求参数的MLE有时行不通，这时要用极大似然估计原理来求 . 说明： 例1 设ξ1,ξ2,…, ξn是取自母体 ξ~b(1, p) 的一个子样，求参数p的极大似然估计. 注 最大次序统计量 注 矩估计量 注 Ц 例3 一罐中装有白球和黑球，有放回地抽取一个容量为n的子样，其中有 k 个白球，求罐中黑球与白球之比 R 的极大似然估计值. 解: 设罐中有白球x个，则有黑球Rx个，从而罐中共 有(R+1)x个球 ∴先求p的MLE： p的MLE为 在前面例2中,我们已求得 由前述极大似然估计的不变性不难求得 的MLE是