概率论课件6.2分析.ppt

费歇资料 * * * 第六章 点 估 计 §6.2 极大似然估计 二、具体方法 一、基本思想 一、基本思想 极大似然法是在总体类型已知条件下使用的一种参数估计方法 . 它首先是由德国数学家高斯在1821年提出的, 然而，这个方法常归功于英国统计学家费歇. 费歇在1922年重新发现了这一方法，并首先研究了这种方法的一些性质 .极大似然估计这一名称也是费歇给的. Gauss Fisher 它建立在极大似然原理的基础上，即，一个随机试验下有若干个可能的结果A、B 、C，…，如在一次试验中，结果A出现了，那么可以认为P(A)较大。 最大似然法的基本思想 先看一个简单例子： 一只野兔从前方窜过 . 是谁打中的呢？ 某位同学与一位猎人一起外出打猎 . 如果要你推测， 你会如何想呢? 只听一声枪响，野兔应声倒下 . 你就会想，只发一枪便打中, 猎人命中的概率一般大于这位同学命中的概率 . 看来这一枪是猎人射中的 . 这个例子所作的推断已经体现了极大似然法的基本思想 . 例1 罐中放有若干黑、白球、仅知两色球的数目之比为1:3，但不知何色球多，试估计抽到黑球的概率p 是 或 . 1/64 9/64 27/64 27/64 27/64 27/64 9/64 1/64 3 2 1 0 解 以有放回抽样的方式抽球n个进行观察，以 表抽得的黑球数，则 现以n =3为例，讨论如何根据的 值来估计参数 ， 通过分析、可定义 的估计量 如下： 二、具体方法 则样本 的概率分布为 或 称 L( ) 为样本的似然函数. 一般, 设 为离散型随机变量, 其分布律为 称这样得到的 为参数? 的极大似然估计值， 称统计量 为参数 ? 的极大似然估计量, 选择适当的? = ,使 取最大值, 即 极大似然法的思想 简记 简记 则似然函数为 注1 注2 未知参数可以不止一个, 如?1,…, ?k， 则定义似然函数为 若 连续, 取 p (xi,? )为 i 的密度函数， 设 的密度(或分布)为 若 关于?1, …, ?k可微,则称 为似然方程组. 若对于某组给定的样本值 x1, x2,…, xn，参数 使似然函数取得最大值, 即 则称 为?1,…, ?k 的极大似然估计值. 显然， 称统计量 为?1, ?2,…, ?k 的极大似然估计量. 求极大似然估计量的步骤: (一）写出似然函数 (二）取对数 离散型 连续型 极大似然估计法也适用于分布中含有多个未知参数的情况. 此时只需令 对数似然方程组 对数似然方程 解出由k个方程组成的方程组，即可得各未知参数 极大似然估计值 解 似然函数 例2 这一估计量与矩估计量是相同的. 两边取对数, 且 例3 设总体 服从参数为 的指数分布，即 求 的极大似然估计。 解 设 是取自 的一个样本， 为其观测值，则 的似然函数为 且 故 使 达最大.从而 为 的极大似然估计值， 为 的极大似然估计量。 上式两边取对数, 令 例4 设总体 服从Poisson分布P (λ),其中λ0是一未知参数，求λ的极大似然估计。 解 设 是取自 的一个样本， 为其观测值，则 的似然函数为 上式两边取对数, 令 解上面的似然方程得 经验证 是L(λ)的最大值点，所以 是λ的极大似然估计量. 。 例5 设总体 ~ N (?,? 2), x1, x2,…, xn 是 的样本值, 求 ?, ? 2 的极大似然估计. 解 ?, ? 2 的极大似然估计量分别为 似然 方程 组为 解 的密度函数为 似然函数为 例6 设 ~ x1, x2,…, xn 是 的一个样本值, 求 的极大似然估计值与极大似然估计量. 由于 的支撑与 有关，不存在易解的似然方程，我们由定义，找 的最大值点，由 的表达式， 越小