数理统计第七章-参数估计资料.ppt

第七章 参数估计 §7.3 区间估计 3．相合性（一致性） 设 是未知参数 的估计量，若对任意给定的ε 0 ,都有： 则称 为 的一个 相合估计（一致估计）。 定理 设 是θ的一个估计量，若 则 是θ的相合估计 定理 设 分别是 的相合估计，若 是 的连续函数，则 是 η 的相合估计。 前面，我们讨论了参数点估计。它是用样本算得的一个值去估计未知参数。但是，点估计值仅仅是未知参数的一个近似值，它没有反映出这个近似值的误差范围，使用起来把握不大。区间估计正好弥补了点估计的这个缺陷 。 在这里，我们希望确定一个区间，使我们能以比较高的可靠程度相信它包含真参数值。 这里所说的“可靠程度”是用概率来度量的，称为置信概率，置信度或置信水平。 习惯上把置信水平记作 ，这里 是一个 很小的正数。 置信水平的大小是根据实际需要选定的。 例如，通常可取置信水平 : 0.99, 0.95 或 0.9 等. 根据一个实际样本，由给定的置信水平，我们求出一个尽可能小的区间 ，使 称区间 为 的置信水平为 的置信区间。 一、 置信区间定义： 满足 设 是 一个待估参数，给定 若由样本X1,X2,…Xn确定的两个统计量 则称区间 是 的置信水平（置信度、 置信概率）为 的置信区间。 分别称为置信下限和置信上限。 两个要求: 1. 要求 以很大的可能被包含在区间 内，就是说，概率 要尽可能大。 即要求估计尽量可靠。 2. 估计的精度要尽可能的高。如要求区间 长度 尽可能短，或能体现该要求的其它准则。 二、置信区间的求法 求参数 的置信度为 的置信区间。 例1 设总体 X 是服从 ， 解： 选 的点估计： ~ N 0 , 1 找 a, b 使： 例如，由 P -1.96≤ Z≤1.96 0.95 0.025 0.025 我们得到均值 的置信水平为 的置信区间为： 由 P -1.75≤Z≤2.33 0.95 0.01 0.04 我们得到均值 的置信水平为 的置信区间为： 任意两个数a和b，只要它们的纵标包含f u 下95%的面积，就确定一个95%的置信区间。 我们总是希望置信区间尽可能短。 在概率密度为单峰且对称的情形，当a -b时求得的置信区间的长度为最短。 我们的任务是： 称 为似然函数 称满足 的 为 的最大似然估计值。 称 为 的最大似然估计量（MLE）. 例4 设总体 X ~ B 1, p 的一个样本，求参数 p 的极大似然估计. 解： p 1-p P 1 0 X 例5设总体 其中 0, 求 的最大似然估计. 解： 在总体分布中，把概率函数 或密度 中自变量看成已知常数,而把参数 θ 看作自变量导出似然函数 L θ ; 求极大似然估计（MLE）的一般步骤： 求似然函数L θ 的最大值点 常常转化为求ln L θ 的最大值点 ，即θ 的MLE; 在最大值点的表达式中, 用子样代入就得参数θ 的极大似然估计量 两点说明 1、求似然函数L 的最大值点，通过求解似然方程： 得到 的MLE 。 若 是向量，上述方程必须用似然方程 组代替 。 2、用上述求导方法求参数的MLE有时行不通，这时要用最大似然原则来求 。 解： 例6 设总体 其中参数 未知，使用最大似然估计法求 的估计量。 返回 例7 其中 0,求 的极大似然估计。 解： i 1,2,…,n i 1,2,…,n 1 2 由 1 得 是 的增函数 故使 达到最大的 即 的MLE， 极大似然估计的一个性质: 设 的函数 g g 是 上的实值函数,且有唯一反函数 。如果 是 的极大似然估计，则 g 也是 g 的极大似然估计。 例8 一罐中装有白球和黑球，有放回地抽取一个容量为n 的样本，其中有 k 个白球，求罐中黑球与白球之比 R 的极大似然估计. 解: 显然 X~B 1, p ，由例 4 §7.2 估计量的评价标准 评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由多次试验结果来衡量 。 这是因为估计量是样本的函数，是随机变量。因此，由不同的观测结果，就会求得不同的参数估计值。因此一个好的估计，应在多次试验中体现出优良性 。 常用标准： 1．无偏性 无系统偏差 2．有效性 方差小 3．相合性 收敛性 1．无偏性 设 是未知参数 的估计量，若 则称 为 的无偏估计。 用样本均值作为总体均值的估计时，虽无法说明一次估计所产生的偏差，但这种偏差随机地在 0 的周围波动，对同一统计问题大量重复使用不会产生系统偏差 。 解：由例6 例9 设总体 其中参数