极大似然估计.pptVIP

* 极大似然估计 * 极大似然法的基本思想 先看一个简单例子： 一只野兔从前方窜过 . 是谁打中的呢？ 某位同学与一位猎人一起外出打猎 . 如果要你推测， 你会如何想呢? 只听一声枪响，野兔应声倒下 . * 基本思想: 若事件Ai 发生了, 则认为事件Ai在这n个可能结果 中出现的概率最大。 极大似然估计就是在一次抽样中,若得到观测值 则选取 若一试验有n个可能结果 现做一试验, 作为θ的估计值。 使得当 时,样本出现的概率最大。 * 极大似然估计法: 设 是 的一个样本值 事件 发生的概率为 为 的函数， 形式已知 (如离散型) X的分布列为 的联合分布列为： 为样本的似然函数。 定义7.1 * 即取 使得： 与 有关, 记为 称为参数θ的极大似然估计值。 称为参数θ的极大似然估计量。 达到最大的参数 作为θ的估计值。 现从中挑选使概率 样本的似然函数 * 若总体X属连续型, 其概率密度 的形式已知， θ为待估参数； 则 的联合密度： 一般， 关于θ可微，故θ可由下式求得： 因此 的极大似然估计θ也可从下式解得： 在同一点处取极值。 * * 故似然函数为 例1 设 是来自总体X的一 个样本， 试求参数 p 的极大似然估计值. 解：设 是一个样本值。 X的分布列为： 而 令 * 它与矩估计量是相同的。 解得 p的极大似然估计值 p的极大似然估计量 令 解得 * 设总体X的分布列为： 是来自总体X的样本，求 p 的极大 解： 似然函数为 似然估计值。 例2 * 令 即 所以参数 的极大似然估计量为 * 解 例3 设 X1, X2, …, Xn 是取自总体X 的一个样本, ，求参数λ的极大似然估计值。 似然函数为: * 例4 设 未知， 是一个样本值 求 的极大似然估计量. 解 设 的概率密度为： 似然函数为 * 等价于 因为 对于满足 的任意 有 即 时,取最大值 在 似然函数为 * 故 的极大似然估计值为: 故 的极大似然估计量为: 即 时,取最大值 在 似然函数为 * 今取得一组样本Xk数据如下，问如何估计θ？ 16 29 50 68 100 130 140 270 280 340 410 450 520 620 190 210 800 1100 某电子管的使用寿命 X （单位：小时) 服从指数分布 例5 指数分布的点估计 分析 可用两种方法：矩法估计 和极大似然估计. * 1）矩法估计 * 2）极大似然估计 构造似然函数 当xi0,（i=1,2, …,n) 时，似然函数为 取对数 建立似然方程 * 5. 得极大似然估计量： 求解得极大似然估计值 * 似然函数为： 例6 设 为未知参数， 是来自X的一个样本值，求 的极大似然估计值。 解： X的概率密度为： * 解得： 令 即： * 注：lnx 是 x 的严格单增函数，lnL 与L有相同的极大值，一般只需求lnL 的极大值. 求极大似然估计的一般步骤： 写出似然函数 2. 对似然函数取对数 3. 对?i (i =1,…, m)分别求偏导,建立似然方程(组) 解得 分别为 的极大估计值. * 例7 矩估计与似然估计不等的例子 设总体概率密度为 求参数θ的极大似然估计, 并用矩法估计θ. 解 1) 极大似然估计法 构造似然函数 2. 取对数： 当 0xi1, (i=1,2, …,n) 时 * 2. 取对数： 当 0 xi 1, (i=1,2, …,n) 时 建立似然方程 求解得极大似然估计值为 5. 极大似然估计 量为 * 2) 矩估计法 * 1. 矩法估计量与极大似然估计量不一定相同； 2. 用矩法估计参数比较简单,但有信息量损失； 3. 极大似然估计法精度较高,但运算较复杂； 4. 不是所有极大似然估计法都需要建立似然方程 小 结 求解. * 作业 P294 1；2；3；4 * 解 例6. 不合格品率的矩法估计 分析 设总体X 即抽一件产品的不合格产品数，相当于抽取了一组样本X1，X2，… ，Xn , 且 因 p=EX, 故 p 的矩估计量为 设某车间生产一批产品，为估计该批产品不合格品率，抽取了n件产品进行检查. (即出现不合格产品的频率).