5.2参数的最大似然估计程序.ppt

矩估计 * §5.2 最大似然估计 例 作放回抽样, 设一袋中装有 从中随机取一球, 令 取到红球 取到白球 是总体. 取球10次 (每次一球) 是取到红球的概率. 第 次取到红球 第 次取到白球 现在要估计 红、白两种球, 是来自总体X的 容量为10的样本. 取到红球 取到白球 是总体， 现在要估计 作放回抽样, 取球10次 (每次一球) 第 次取到红球 第 次取到白球 设已知10次摸球的结果 得到样本值 10次摸球 得此样本值的概率为 是取到红球的概率. 10次摸球 得到样本值 的概率为 最大似然估计的思想是: 一次抽样有许多可能结果, 如果某一结果 就认为这一结果 抽样中出现了, 是所有可能结果中 概率最大的一个. 本例中, 一次抽样后, 一次抽样有 个结果, ........ 出现 就认为得到此结果的概率 最大. 即求 即选择 使 最大, 的最大值点 在一次 结果 即求 的最大值点 10次摸球 得到样本值 的概率 取 作为 的估计值. 一次抽样后, 出现结果 的概率 最大. 此时, 为待估参数 的函数, 称为似然函数. 在 处达到最大值, 称 为参数 的 最大似然估计值. 为 其中θ是待估参数 当一次抽样得观测值 得此观测值的概率为: 其分布率为 设X是 取值为 的概率 与 有关, 与参数θ有关 时, 记为 为待估参数θ的函数, 称为似然函数. 若 在 处达到最大值, 则称 为参数 的 最大 似然估计值. 相应的估计量 称为θ 的最大似然估计量. 统称为θ的 最大似然估计. 离散型随机变量, 其中θ是待估参数, 设其密度函数为 当 是 记 称为似然函数. 若 在 处达到最大值, 则称 为参数 的 最大 似然估计值. 相应的估计量 称为θ 的最大似然估计量. 统称为θ的 最大似然估计. 连续型随机变量时, 由于 是 的最大值点, 一般应满足条件: 从而满足条件 是离散型随机变量 是连续型随机变量 离散型 连续型 求最大似然估计量 1.写出似然函数 X是离散型随机变量 X是连续型随机变量 当只有一个待估参数θ时， 2.写出似然方程 或 3.求解似然方程 得到驻点， 并判断驻点是否为 最大值点. 的步骤: 几种常见分布的 最大似然估计量 1.0—1分布 设总体 为待估参数. 可统一表示为 设一抽样得观测值为 为似然函数. 似然估计值, 为 的最大似然 为 的最大 为似然函数. 估计量. 似然估计值, 为 的最大似然估计量. 为 的最大 例如 总体 为待估参数. 已知10次摸球的结果 得到样本值 即一次抽样, 得样本观测值为 似然估计值为 的最大 2.泊松分布 设总体 即 λ为待估参数. 设样本观测值为 为似然函数. 为似然函数. 为λ的最大似然估计值. 为λ的最大似然估计量. 3.指数分布 设总体 服从指数分布 λ为待估参数. 求参数λ的最大似然估计. 设样本观测值为 解 可以认为 为似然函数. 为似然函数. 为λ的最大似然估计值. 为λ的最大似然估计量. 或两个以上 未知参数 时， 似然函数为 当有两个 （离散型） 或 （连续型） 或两个以上 未知参数 时， 似然函数为 若似然函数在 达到最大， 则称 为 的最大似然估计值， 称为θi的 最大似然估计量. 估计量 相应的 此时， 一般应满足条件: 或 当有两个 4.正态分布 设总体 令 μ和δ为待估参数, 求参数μ和 服从正态分布 的最大似然估计. 求参数μ和δ的最大似然估计. 设样本观测值为 解 似然函数为： 令 求参数μ和δ的最大似然估计. 似然函数为 为μ的最大似然估计值. 似然函数为 为μ的最大似然估计值. 为δ的最大似然估计值. 代入（2）式， 解得 似然函数为 为μ的最大似然估计值. 为δ的最大似然估计值. 为μ的最大似然估计值. 为δ的最大似然估计值. μ的最大似然估计量为 δ的最大似然估计量为 最大似然估计量 不一定是无偏估计量 令 随机变量的矩 1.原点矩 则称 对于自然数 如果 为随机变量 的 阶原点矩. 设X是随机变量， 存在， 1阶原点矩就是 当 时, 2阶原点矩是 当 时, 2.中心矩 称 对于自然数 如果 为随机变量 的 阶中心矩. 设X是随机变量， 则 存在， 也存在. 当 时, 2阶中心矩 * * *