3第三章节 参数估计-点估计.ppt

的大小来决定二者谁更优。 和 一个参数往往有不止一个无偏估计, 若 和 都是参数 的无偏估计量， 我们通过可以比较 由于 2. 有效性 定义2 设 都是参数θ的无偏估计量，若有 则称 有效。 例3 设 X1, X2, …, Xn 是取自总体 X 的一个样本, ⑴ 验证 都是 的无偏估计. ⑵ 问那个估计量最有效? 解 ⑴ 设 由于 都是总体均值 的无偏估计量; 故 ⑵ 因为 所以 更有效 例4 （1）求均匀总体U(0, ? )中? 的矩估计量?1和最大似然估计量?2 ； （2）判断?1和?2 是否为? 的无偏估计量，请对其中不具有无偏性的估计量进行无偏修正?* ； （3）判断上述无偏估计量中哪个最有效。 答案 定义3 设 则称 的相合估计量或一致估计量。 为参数θ的估计量， 3.一致性 定理 设 是θ的估计量，如果 存在，且 q ? 则 是θ的一致估计量。 q ? 例5 设 X1, X2, …, Xn 是取自总体 X 的一个样本, 证明样本均值是总体均值的一致估计量。 例6 设 X1, X2, …, Xn 是总体 X~（0，θ） 的一个样本, 证明Y=max{X1, X2, …, Xn}是θ的一致估计量。 4.最小方差无偏估计 定义: Problem： 无偏估计的方差是否可以任意小? 如果不能任意小,那么它的下界是什么? （1） Fisher信息量 5.罗-克拉美（Cramer–Rao ）不等式 (1)?是实数轴上的一个开区间; 设总体X 的概率函数为f(x;? ),???,且满足条件: 正则条件 注： I(?) 的另一表达式为 设总体X 的概率函数为f(x ;? ),???, 满足上面定义 条件； x1,….,xn 是来自总体X的一个样本, T(x1,….,xn ) 是g(? )的一个无偏估计. 定理 (Cramer-Rao不等式): 的微分可在积分号下进行，即 则有 上述不等式的右端称为C-R下界, I(?) 为Fisher信息量. 特别，对θ的无偏估计有 注: (1) 定理对离散型总体也适用,只需改积分号为求和号 (2) 在定理条件下, 若g(? ) 的无偏估计量T 的方差D(T) 达到下界, 则T必为g(? ) 的最小方差无偏估计. 但是它不一定存在, 也就是说, C-R不等式有时给出的下界过小 证明：设　　是　　的无偏估计量，则 两边对?求导 （1） 又 两边对?求导 （2） （1）与（2）式相加 改写为 由柯西－施瓦尔兹不等式，得 其中 则有 6.有效估计 定义 综上, 求证T是g(?)的有效估计的步骤为: 例1 设总体 X的概率密度为 为 X 的一个样本值. 求? 的最大似然估计量, 并判断它是否为达到方差下界的无偏估计,即有效估计. 解 由似然函数 知? 的最大似然估计量为 所以它是? 的无偏估计量, 且 而 故 是达到方差下界的无偏估计. 所以 C-R下界为 因此, =μ的C-R下界为 是μ的有效估计 因此 例4 设X1 ,…,Xn 为正态分布N(μ,σ2)的样本, 证明 是μ的有效估计. 解： 为无偏估计, 现求μ的C-R下界,由于 解 由于 所以σ2的C-R下界为: 例5 设X1 ,…,Xn 取自正态分布总体N(μ,σ2) , 若μ未知，讨论σ2的无偏估计 是否为有效估计. 由于 即 不是σ2的有效估计 所以 = σ2的C-R下界为 注： S2为σ2 的渐近有效估计. 令 所以 的最大似然估计值为 例6 设 X1, X2, …, Xn 是取自总体 X 的一个样本, ，求参数 a , b 的最大似然估计值。 解 似然函数 所以 所以 则要使得 取最大值 注：特殊的似然函数通过求导得不到其最值点， 需要用似然估计的思想来求。 例7 设 X1, X2, …, Xn 是取自总体 X 的一个样本, 求 ⑴ 参数 θ和μ的矩估计量； ⑵ 参数 θ和μ的最大似然估计量。 解 ⑴ 令 所以 解得参数θ和μ的矩估计量为 ⑵ 设x1, x2, …, xn是X1, X2, …, Xn的样本值，则 似然函数为 其中 当 时 令 第二个似然方程求不出θ的估计值，观察 ，表明L是μ的严格递增函数，又 ，故 当 时L 取到最大值 从而参数θ和μ的最大似然估计值分别为 所以参数θ和μ的最大似然估计量分别为 例8　设总体X的分布律为 其中参数 未知，现有一组样本值 解 试求θ的极大似然估计值。 1, 1, 1, 3, 2, 1, 3, 2, 2, 1, 2, 2, 3, 1, 1, 2 例9 设一个试