数理统计课件 贝叶斯估计2指南.pdf

四．贝叶斯估计 1．贝叶斯点估计 定义 3.6 设总体 X 的分布函数为 , 为随机变量， F ( x , θ) θ 为 的先验分布。若在决策空间 D 中存在一个决策函 πθ( ) θ 数d * (X ) ，使得对决策空间 D 中任一决策函数d (X ) ，均 有 R(d *) inf R(d ),=∀d ∈D （下确界） d 则称 为参数 的贝叶斯估计量。 d * (X ) θ 由定义可见，贝叶斯估计量d * (X ) 就是贝叶斯风险 R (d ) 达到最小的决策函数。 注意,贝叶斯估计量依赖于先验分布π θ ，即对于不 ( ) 同的 ， 的贝叶斯估计量是不同的，在常用损失函数 π θ θ ( ) 下，贝叶斯估计有如下几个结论。 定理 3.2 若给定θ的先验分布π θ 和平方损失函数 ( ) 2 L(θ, d ) (θ=−d ) 则θ的贝叶斯估计是 d ( x ) E (θ| X x ) ∫Θθh(θ x )d θ 其中h(θx ) 为参数 的后验密度。 θ 证明 由于 2 R(d ) m (x ) [θ=−d ( x)] h(θx )dθ dx min ∫χ {∫Θ } 与∫Θ[θ−d ( x)]2 h(θ x )dθ min a.s （几乎处处） 是等价的。而 2 ∫Θ[θ−d ( x )] h(θ x )d θ ∫Θ⎡⎣θ=−E (θ x ) +E (θ x ) −d (x )⎤⎦2 h(θ x )d θ ⎡θ E (θ x )⎤2 h(θ x )d θ ⎡E (θ x ) d (x )⎤2 h(θ x )d θ ∫Θ⎣ =− ⎦ +∫Θ⎣ − ⎦ 2 ⎡θ E (θ x )⎤⎡E (θ x ) d (x )⎤h(θ x )d θ, + ∫Θ⎣ − ⎦⎣ − ⎦ 其中 E θ | x θh θ | x dθ. ( ) ∫Θ ( ) 又 ⎡θ−E (θ x )⎤⎡E (θ x ) −d (x )⎤h(θx )dθ ∫Θ⎣ ⎦⎣ ⎦ ⎡E (θ x ) =−d (x )⎤ ⎡θ−E (θ x )⎤h(θ x )d θ ⎣ ⎦ ⎣∫ ⎦ Θ [E (θx ) −d (x )][E (θx ) −E (θx )] 0, 故 θ−d ( x) h(θ x )dθ ∫Θ