第七章 参数估计(1,2,3).ppt

在数理统计中常用到最小方差无偏估计。 它的定义是: 设 是取自总体X的一个样本， 是未知参数 的一个估计量， 若 满足： （1） ， 即 为 的无偏估计； （2） ， 是 的任一无偏估计。 则称 为 的最小方差无偏估计。 （也称最佳无偏估计） 3．相合性（一致性） 设 是未知参数 的估计量，若对任意给定的ε 0 ,都有： 则称 为 的一个 相合估计（一致估计）。 我们的任务是： 称 为似然函数 称满足 的 为 的极大似然估计值。 称 为 的极大似然估计量（MLE）. 例4 设总体 X ~ b 1, p ,X1,…,Xn是一个样本，求参数 p 的极大似然估计. 解： X 0 1 P 1-p p 例5设总体 其中 0, 求 的极大似然估计. 解： 在总体分布中，把概率函数 或密度 中自变量看成已知常数,而把参数 θ 看作自变量导出似然函数 L θ ; 求极大似然估计（MLE）的一般步骤： 求似然函数L θ 的最大值点 常常转化为求ln L θ 的最大值点 ，即θ 的MLE; 在最大值点的表达式中, 用样本代入就得参数θ 的极大似然估计量 两点说明 1、求似然函数L 的最大值点，通过求 解似然方程： 得到 的MLE 。 若 是向量，上述方程必须用似然方程 组代替 。 2、用上述求导方法求参数的MLE有时行不通，这时要用极大似然原理来求 。 解： 例6 设总体 其中参数 未知，使用极大似然估计法求 的估计量。 例7 其中 0,求 的极大似然估计。 解： i 1,2,…,n i 1,2,…,n 1 2 由 1 得 ?! 是 的增函数 故使 达到最大的 即 的MLE， 极大似然估计的一个性质: 设 的函数 g g 是 上的实值函数,且有唯一反函数 。如果 是 的极大似然估计，则 g 也是 g 的极大似然估计。 例8 一罐中装有白球和黑球，有放回地抽取一个容量为n 的样本，其中有 k 个白球，求罐中黑球与白球之比 R 的极大似然估计. 解: 显然 X~b 1, p ，由例 4 §2 基于截尾样本的最大似然估计 （自己看） §3 估计量的评选标准 评价一个估计量的好坏，不能仅仅依据一次试验的结果，而必须由多次试验结果来衡量 。 这是因为估计量是样本的函数，是随机变量。因此，由不同的观测结果，就会求得不同的参数估计值。因此一个好的估计，应在多次试验中体现出优良性 。 常用标准： 1．无偏性 无系统偏差 2．有效性 方差小 3．相合性 收敛性 1．无偏性 设 是未知参数 的估计量，若 则称 为 的无偏估计。 无偏估计的实际意义是无系统误差。 用样本均值作为总体均值的估计时，虽无法说明一次估计所产生的偏差，但这种偏差随机地在 0 的周围波动，对同一统计问题大量重复使用不会产生系统偏差 。 解：由上节例6 例1 设总体 其中参数 未知，使用极大似然估计法求 的估计量，并问是否为无偏估计？若不是，请修正使之成为无偏估计。 无偏 渐近无偏 如何修正？ 的大小来决定二者 和 一个参数往往有不止一个无偏估计, 若 和 都是参数 的无偏估计量， 比较 我们可以 谁更优 。 由于 所以无偏估计以方差小者为好, 这就引进了有效性这一概念 。 2．有效性 D D 则称 较 有效 。 都是参数 的无偏估计量，若有 设 和 例2 设总体 服从指数分布，其概率密度为： 其中参数 未知，又设 是来自 X 的样本，试证 和 nZ 都是 的无偏估计量，并比其较有效性。 其中 证： 无偏 无偏 当 n 1 时， 较 更有效。 第七章 参数估计 在参数估计问题中，假定总体分布形式已知，未知的仅仅是一个或几个参数。 例如： 估计大学生的平均身高 参数估计问题的一般提法 现从该总体抽样，得样本 设有一个统计总体，总体的分布函数 向量 . 为 F x, ，其中 为未知参数 可以是 （ X1, X2 , … , Xn ） 要依据该样本对参数 作出估计，或估计 的某个已知函数 。这类问题称为： 参数估计 参数估计 点估计 区间估计 例1 已知某地区大学生的身高 X~ 随机抽查100个大学生得100个身高数据。 呢? 据此,我们应如何估计 和 §1 点估计 为估计 ,我们需要构造出适当的样本的函数T X1,X2,…Xn ，每当有了样本，就代入该函数中算出一个值，用来作为 的估计值 . T X1 , X2 , …Xn 称为参数 的点估计量， 把样本值代入T X1 , X2 , …Xn 中，得到 的一个点估计值 。 请注意，