数理统计-第三章参数估计-2.ppt

数理统计 1．无偏性 例1 二、有效性 例3 四、最小方差无偏估计 六、有效估计 所以 课堂练习 P 98：习题3.6: 2, 4, 5 * 周 圣 武 Tel: E-mail: zswcumt@163.com 中国矿业大学 理学院 常用的估计量评价标准： 1．无偏性 2．有效性 3．相合性 本节重点介绍前面两个标准 . §3.6 估计的有良性与比较 对同一个参数，用不同的估计方法求出的估 计量可能不相同，采用哪一个估计量好呢? 而它的期望值等于未知参数的真值. . 真值 估计量是随机变量， 对于不同的样本值会得到不同的 估计值 . 我们希望估计值在未知参数真值附近摆动， ——这就导致无偏性这个标准 . 定义1 设 是未知参数θ的估计量 存在，且对任意的θ，有 则称 为θ的无偏估计。 无偏性的实际意义是指没有系统偏差 则称 是 的渐近无偏估计量. 例如 设总体X的数学期望为μ方差为σ2 ， 是X的样本，求证 均为μ的无偏估计。 为σ2 的无偏估计量。 一个未知数可以有不同的无偏估计量。 解 例2 设 是总体 的样本. 使 为 的无偏估计量。 求 故当 时, 解 的大小来决定二者谁更优。 和 一个参数往往有不止一个无偏估计, 若 和 都是参数 的无偏估计量， 我们通过可以比较 由于 定义2 设 都是参数θ的无偏估计量，若有 则称 有效。 设 X1, X2, …, Xn 是取自总体 X 的一个样本, ⑴ 验证 都是 的无偏估计. ⑵ 问那个估计量最有效? 解 ⑴ 设 由于 都是总体均值 的无偏估计量; 故 ⑵ 因为 所以 更有效 定义3 设 则称 的一致估计量。 为参数θ的估计量， 三、一致性 定理 设 是θ的估计量，如果 存在，且 q ? 则 是θ的一致估计量。 q ? 例4 设 X1, X2, …, Xn 是取自总体 X 的一个样本, 证明样本均值是总体均值的一致估计量。 例5 设 X1, X2, …, Xn 是总体 X~（0，θ） 的一个样本, 证明Y=max{X1, X2, …, Xn}是θ的一致估计量。 定义: Problem： 无偏估计的方差是否可以任意小? 如果不能任意小,那么它的下界是什么? 1、 Fisher信息量的定义. 五、罗-克拉美（Cramer–Rao ）不等式 (1)?是实数轴上的一个开区间; 设总体X 的概率函数为f(x;? ),???,且满足条件: 正则条件 注： I(?)的另一表达式为 设总体X 的概率函数为f(x ;? ),???, 满足上面定义条件；x1,….,xn 是来自总体X的一个样本, T(x1,….,xn ) 是g(? )的一个无偏估计. 定理 (Cramer-Rao不等式): 的微分可在积分号下进行，即 则有 上述不等式的右端称为C-R下界, I(?) 为Fisher信息量. 特别地对θ的无偏估计有 注: (1) 定理对离散型总体也适用.只需改积分号为求和号。 (2) 在定理条件下, 若g(? ) 的无偏估计量T 的方差Var(T) 达到下界, 则T必为g(? ) 的最小方差无偏估计. 但是它不一定存在, 也就是说, C-R不等式有时给出的下界过小. 定义: 定义: 注: 综上, 求证T是g(?)的有效估计的步骤为: 例1 设总体 X~Exp(1/θ),密度函数为 为 X 的一个样本值. 求? 的最大似然估计量, 并判断它是否为达到方差下界的无偏估计,即有效估计. 为参数 解 由似然函数 经检验知? 的最大似然估计为 所以它是? 的无偏估计量,且 而 故 是达到方差下界的无偏估计. C-R下界为 因此, =μ的C-R下界为 是μ的有效估计 因此 例4 设X1 ,…,Xn 为正态分布N(μ,σ2)的样本, 证明 是μ的有效估计. 解： 为无偏估计, 现求μ的C-R下界,由于 因此: 解: 由于 所以σ2的C-R下界为: 例5 设X1 ,…,Xn 取自正态分布总体N(μ,σ2) , 若μ未知，讨论σ2的无偏估计 是否为有效估计.