第七章参数估计1,2,3.pptVIP

在数理统计中常用到最小方差无偏估计。 它的定义是: 设 是取自总体X的一个样本， 是未知参数 的一个估计量， 若 满足： （1） ， 即 为 的无偏估计； （2） ， 是 的任一无偏估计。 则称 为 的最小方差无偏估计。 （也称最佳无偏估计） 3．相合性（一致性） 设 是未知参数 的估计量，若对任意给定的ε 0 ,都有： 则称 为 的一个 相合估计（一致估计）。 我们的任务是： 称 为似然函数 称满足 的 为 的极大似然估计值。 称 为 的极大似然估计量（MLE）. 例4 设总体 X ~ b ( 1, p ),X1,…,Xn是一个样本，求参数 p 的极大似然估计. 解： X 0 1 P 1-p p 例5设总体 其中 0, 求 的极大似然估计. 解： 在总体分布中，把概率函数(或密度)中自变量看成已知常数,而把参数 θ 看作自变量导出似然函数 L(θ ); 求极大似然估计（MLE）的一般步骤： 求似然函数L(θ ) 的最大值点(常常转化为求ln L(θ)的最大值点) ，即θ 的MLE; 在最大值点的表达式中, 用样本代入就得参数θ 的极大似然估计量 两点说明 1、求似然函数L( ) 的最大值点，通过求 解似然方程： 得到 的MLE 。 若 是向量，上述方程必须用似然方程 组代替 。 2、用上述求导方法求参数的MLE有时行不通，这时要用极大似然原理来求 。 解： 例6 设总体 其中参数 未知，使用极大似然估计法求 的估计量。 例7 其中 0,求 的极大似然估计。 解： i=1,2,…,n i=1,2,…,n (1) (2) 由 (1) 得 ?! 是 的增函数 故使 达到最大的 即 的MLE， { { 极大似然估计的一个性质: 设 的函数 g = g ( ) 是 上的实值函数,且有唯一反函数 。如果 是 的极大似然估计，则 g( ) 也是 g( ) 的极大似然估计。 例8 一罐中装有白球和黑球，有放回地抽取一个容量为n 的样本，其中有 k 个白球，求罐中黑球与白球之比 R 的极大似然估计. 解: 显然 X~b ( 1, p ) ，由例 4 §2 基于截尾样本的最大似然估计 （自己看） §3 估计量的评选标准 评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由多次试验结果来衡量 。 这是因为估计量是样本的函数，是随机变量。因此，由不同的观测结果，就会求得不同的参数估计值。因此一个好的估计，应在多次试验中体现出优良性 。 常用标准： 1．无偏性 无系统偏差 2．有效性 方差小 3．相合性 收敛性 1．无偏性 设 是未知参数 的估计量，若 则称 为 的无偏估计。 无偏估计的实际意义是无系统误差。 用样本均值作为总体均值的估计时，虽无法说明一次估计所产生的偏差，但这种偏差随机地在 0 的周围波动，对同一统计问题大量重复使用不会产生系统偏差 。 解：由上节例6 例1 设总体 其中参数 未知，使用极大似然估计法求 的估计量，并问是否为无偏估计？若不是，请修正使之成为无偏估计。 无偏 渐近无偏 如何修正？ 的大小来决定二者 和 一个参数往往有不止一个无偏估计, 若 和 都是参数 的无偏估计量， 比较 我们可以 谁更优 。 由于 所以无偏估计以方差小者为好, 这就引进了有效性这一概念 。 2．有效性 D( ) D( ) 则称 较 有效 。 都是参数 的无偏估计量，若有 设 和 例2 设总体 服从指数分布，