最小方差无偏估计.pdfVIP

2.3 节 最小方差无偏估计 内容概要 1、1、一致最小方差无偏估计一致最小方差无偏估计 11、、一致最小方差无偏估计一致最小方差无偏估计 ˆ ~ 设θ 是θ 的一个无偏估计，如果对另外任意一个θ 的无偏估计θ ，在参数空间Θ = {θ } 上都有 ˆ ~ Var (θ ) ≤ Var (θ ) θ θ ˆ 则称θ 是θ 的一致最小方差无偏估计，简记为UMVUE 。 2、2、判断准则判断准则 22、、判断准则判断准则 ˆ ˆ 设 θ = θ (x , , x ) 是 θ 的一个无偏估计， Var(θ ) ∞ 。如果对任意一个满足 1 n E (ϕ (x1, , xn )) = 0 的ϕ ，都有 ˆ Cov (θ ,ϕ ) =0, ∀θ ∈ Θ θ ˆ 则θ 是θ 的UMVUE 。 3、3、充分性原则充分性原则 33、、充分性原则充分性原则 任一参数θ 的UMVUE 不一定存在，若存在，则它一定是充分统计量的函数； ˆ 若θ 的某个无偏估计θ 不是充分统计量T = T ( x , …, x ) 的函数，则通过条件期望可 1 n ˆ 以获得一个新的无偏估计θ = E (θ |T ) ，且方差比原估计的方差要小； 考虑θ 的估计时，只需要在其充分统计量的函数中寻找即可，该说法对所有统计推 断都是正确的。这便是充分性原则。 44、费歇信息量、费歇信息量I (θ ) 44、、费歇信息量费歇信息量 设总体的概率函数 p (x ;θ ),θ ∈Θ 满足下列条件： （1）参数空间Θ 是直线上的一个开区间； （2 ）支撑S = {x : p (x;θ ) 0}与θ 无关； ∂ （3 ）导数 p (x ;θ ) 对一切θ ∈Θ 都存在； ∂θ ∂ ∞ ∞ ∂ （4 ）对p (x ;θ ) ，积分与微分运算可交换次序，即∂θ ∫−∞ p (x ;θ )dx =∫−∞ ∂θ p (x ;θ )dx 1 ∂ 2 （5 ）期望I (θ ) = E[ ln p (x;θ )] 存在 ∂θ 则称该期望I (θ ) 为总体分布的费歇 (Fisher) 信息量。 如果二阶导数对一切θ ∈Θ 都存在，则I (θ ) 还可用下式计算  ∂2 