第32节贝叶斯估计.pptVIP

例10(p101例3.16) 对某儿童进行智力测验，设测验 结果服从N(?,100),其中?为心理学中儿童的智商， ?的 先验分布为N(100,225),试求?的置信为0.95的贝叶斯 置信区间. 解 将相关数据代入上述置信区间公式可得： ?的 置信度为0.95的置信区间为 [94.07, 126.69] 而用经典方法可得?的置信度为0.95的置信区间为 [95.4, 134.6] Thank You! 定义3.7 设d=d(x)为决策函数类D中任一决策函数， 损失函数为L(?,d(x)),则L(?,d(x)),对后验分布h(?|x)的 数学期望称为后验风险，记为 注 如果存在一个决策函数，使得 则称此决策为后验风险准则下的最优决策函数，或称 为贝叶斯（后验型）决策函数。 定理3.5 对给定的统计决策问题(包含先验分布给 定的情形）和决策函数类D,当贝叶斯风险满足如下条 件： 定理表明：如果决策函数使得贝叶斯风险最小，此决策函数也使得后验风险最小，反之，也成立. 证明从略 定理3.6 设?的先验分布为?(?)和损失函数为 证 则?的贝叶斯估计为 设m为h(?|x)的中位数，又设d=d(x)为?的另一 估计，为确定起见，先设dm,由绝对损失函数的定义可得 又由于 则 由于m是中位数，因而 则有 于是，当dm时 同理可证，当dm时 因而 定理3.7 设?的先验分布为?(?)和损失函数为 则?的贝叶斯估计为 证 首先计算任一决策函数d(x)的后验风险 为了得到R(d|x)的极小值，关于等式两边求导： 即 则 例5(p94 例3.11) 设总体X服从两点分布B(1,p), 其中参数p未知，而p在[0,1]上服从均匀分布，样本 试求参数p的贝叶斯估计与贝叶斯风险? 解 平方损失下的贝叶斯估计为： 而 其贝叶斯风险为 又因为 则 所以 例6(p96 例3.12) 设总体X服从正态分布N(?,1), 其中参数?未知，而?服从标准正态布在N(0,1)，样本 试求参数?的贝叶斯估计? 解 平方损失下的贝叶斯估计为： 而 化简得 例7(p97 例3.13) 设总体X服从均匀分布U(0,?), 其中参数?未知，而?服从pareto分布，其分布函数与 密度函数分别为 试求参数?的贝叶斯估计? 解 根据定理3.6可知，绝对值损失对应的贝叶斯估计为 后验分布的中位数,即 则 根据定理3.4可知，平方损失对应的贝叶斯估计为 后验分布的均值,即 例8(p97 例3.14) 设总体X服从伽玛分布?(r,?), 解 试求参数 的贝叶斯估计? 3、贝叶斯估计的误差 在计算?的估计时，用到了?的后验分布，因此考 察估计值与真实值之间的误差时，也应考虑?的后验分布，误差定义如下： 定义3.8 参数?的后验分布为h(?|x),其贝叶斯估计 后验均方差与后验方差的关系 后验均方差与后验方差的优点 1、二者只依赖与样本，不依赖参数?. 2、二者的计算不依赖与统计量的分布，即抽样分布 3、贝叶斯估计不考虑无偏性，因为贝叶斯估计只考虑出现的样本，不考虑没出现的样本. 4、贝叶斯区间估计 定义 定义 定义3.9 设参数?的后验分布为h(?|x)，对给定的 注 贝叶斯置信区间依赖于先验分布，不需要抽样 分布，计算相对简单. 正态分布均值的贝叶斯置信区间 例9(p100例3.15) 解 一、先验分布和后验分布 二、共轭先验分布 三、贝叶斯风险 第3.2节　贝叶斯估计 四、贝叶斯估计 一、先验分布与后验分布 上一节提出用风险函数衡量决策函数的好坏，但是由于风险函数为二元函数，很难进行全面比较。贝叶斯通过引入先验分布，给出了整体比较 的指标. 1、先验信息 在抽取样本之前，人们对所要估计的未知参数所了解的信息，通常称为先验信息. 例1(p84例3.6) 某学生通过物理试验来确定当地 的重力加速度，测得的数据为(m/s2): 9.80, 9.79, 9.78, 6.81, 6.80 试求当地的重力加速度. 解 用样本均值估计其重力加速度应该是合理的，即 由经验可知，此结果是不符合事实的。在估计之前 我们知道，重力加速度应该在9.80附近，即 这个信息就是重力加速度的先验信息. 在统计学中，先验信息可以更好的帮助人们解决 统计决策问题. 贝叶斯将此思想应用于统计决策中，形成了完整的贝叶斯统计方法. 2、先验分布 对未知参数?的先验信息用一个分布形式?(?)来 表示，此分布?(?)称为未知参数?的先验分布. 例如 例1中重力加速度的先验分布为 3、后验分布 在抽取样本之前，人们对未知参数有个了解，即先验