7.1 参数的点估计.ppt

极大似然估计的基本思想 简单历史 The method of maximum likelihood was first proposed by the German mathematician C.F.Gauss in 1821. However, the approach is uaually credited to the English statistician R.A.Fisher who rediscovered the idea in his 1922 paper “On the mathematical foundations of theoretical statistics” and first investigated the properties of the method. 例1：英语六级未通过率 假设某理工大学的学生在毕业时尚未通过六级的比率为p，现从中随机抽取100人调查其档案，发现其中有10人六级没过，试用极大似然法估计总体参数p。 例1：英语六级未通过率 解：若六级通过用“0”表示，未通过用“1”表示，则总体X 的分布为 EXERCISES 常见分布的极大似然估计 若 关于?1, ?2,…, ?k 可微， 为似然方程组 若对于某组给定的样本值x1, x2,…, xn， 参数 使得似然函数取得最大值，即 则称 为?1, ?2,…, ?k 的极大似然估计值 则称 7-24 显然， 称统计量 为?1, ?2,…, ?k 的极大似然估计量 7-25 例2 设总体 X ~ N (?,? 2), x1, x2,…, xn 是 X 的 一组样本值，求 ?, ? 2 的极大似然估计. 解 7-26 ?, ? 2 的极大似然估计量分别为 似然 方程 组为 7-27 例 3 设有一批产品, 根据以往的经验知道它的 产品率 p 可能是 0.1 或 0.3. 生产这批产品的厂家 认为该批产品质量很好, 次品率大约为 0.1,而收 购产品的商业部门认为产品质量有问题, 次品率 可能为 0.3. 现从这批产品中随机抽取 15 件,发现 有 5 件次品. 问: 生产厂家与收购部门谁的估计 更可靠些 ? 解 求未知参数的极大似然估计值(量)的方法 1） 写出似然函数L 2）求出 , 使得 7-28 可求得未知参数的极大似然估计值 然后, 再求得极大似然估计量. 7-29 L 是 的可微函数, 解似然方程组 若 L 不是 的可微函数, 需用其它 方法(回到原始的定义）求极大似然估计值. 请看下例： 若 例4 设 X ~ U (a,b), x1, x2,…, xn 是 X 的一个样本, 求 a , b 的极大似然估计值与极大似然估计量. 解 X 的密度函数为 似然函数为 7-30 似然函数只有当 a xi b, i = 1,2,…, n 时才能 获得最大值, 且 a 越大, b 越小, L 越大. 令 xmin = min {x1, x2,…, xn} xmax = max {x1, x2,…, xn} 取 则对满足 的一切 a b , 都有 7-31 故 是 a , b 的极大似然估计值. 分别是 a , b 的极大似然估计量. 7-32 问 题 1) 待估参数的极大似然估计是否一定存在? 2) 若存在, 是否惟一? 设 X ~ U ( a – ?, a + ?), x1, x2,…, xn 是 X 的一个样本, 求 a 的极大似然估计值. 解 由上例可知, 当 时, L 取最大值 1, 即 显然, a 的极大似然估计值可能不惟一. 7-33 例5 不仅如此, 任何一个统计量 若满足 都可以作为 a 的估计量. 7-34 σ2 正态 μ 正态 λ 指数 λ 泊松 p 二项 极大似然估计 待估参数 分布 极大似然估计值的不变性原理 (invariance property of MLEs) 设 是? 的极大似然估计值, u(? ) (? ? ? )是 ? 的函数，且具有单值的反函数 ? = ? (u), u?U 则 是 u(? ) 的极大似然估计值. 7-35 如：在正态分布总体N (?,? 2)中，? 2的极大 似然估计值为 是? 2的单值函数，且具有单值的 反函数，故? 的极大似然估计值为 lg? 的极大似然估计值为 7-36 矩估计就不具有这个性质. 例如 设 X 的密度函数为 X1, X2,…, Xn