(备用)贝叶斯方法(估计_推断_决策).pptVIP

* * * * * * 3.后验风险准则 定义 在给定的贝叶斯决策问题中 是其决策函数称 为决策函数 的后验风险.假如在决策函数类中存在这样的决策函数,它在D中有最小的风险,即 则称 为后验风险准则下的最优决策函数,或称贝叶斯决策,或贝叶斯解. 4.平方损失函数下的贝叶斯估计 定理3.1 在平方损失函数 下, 的贝叶斯估计为后验均值,即 [Pr] 在平方损失函数下,任何一个决策函数 的后验风险为 * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * EX2 设一卷磁带上的缺陷数服从泊松分布P（λ）其中λ可取1.0和1.5中的一个,又设λ的先验分布为 π（1.0）=0.4 π（1.5）=0.6 假如检查一卷磁带发现了3个缺陷，求λ的后验分布。 四、贝叶斯推断（估计） Ⅰ条件方法 由于未知参数的后验分布是集三种信息（总体、样本和后验）于一身，它包含了所有可供利用的信息。故有关的参数估计和假设检验等统计推断都按一定方式从后验分布提取信息，其提取方法与经典统计推断相比要简单明确得多。基于后验分布的统计推断就意味着只考虑已出现的数据（样本观察值）而认为未出现的数据与推断无关，这一重要的观点被称为“条件观点”，基于这种观点提出的统计方法被称为条件方法。 例如经典统计学认为参数的无偏估计应满足： 其中平均是对样本空间中所有可能出现的样本而求的，可实际中样本空间中绝大多数样本尚为出现过，而多数从未出现的样本也要参与平均是实际工作者难以理解的。故在贝叶斯推断中不用无偏性，而条件方法是容易被实际工作者理解和接受的。 Ⅱ估计 1.贝叶斯估计 定义3.2 使后验密度 达到最大的值 称为最大后验估计；后验分布的中位数 称为后验中位数估计；后验分布的期望值 称为 的后验期望值估计，这三个估计都称为贝叶斯估计，记为 。 例1 为估计不合格率 ，今从一批产品中随机抽取n件，其中不合格品数X服从 ，一般选取 为 的先验分布，设 已知，由共轭先验分布可知， 的后验分布为 可计算得： 我们选用贝叶斯假设 则 第一、在二项分布时， 的最大后验估计就是经典统计中的极大似然估计，即 的极大似然估计就是取特定的先验分布下的贝叶斯估计。 第二、 的后验期望值估计 要比最大后验估计 更合适一些。 第三、 的后验期望值估计要比最大后验估计更合适一些。 表2.1列出四个实验结果,在试验1与试验2中,”抽检3个产品没有一件不合格”与抽检10个产品没有一件是不合格”这两件事在人们心目中留下的印象是不同的。后者的质量要比前者的质量更信得过。 表3.1 不合格率 的二种贝叶斯估计的比较 试验号 样本量n 不合格数x 1 3 0 0 0.200 2 10 0 0 0.083 3 3 3 1 0.800 4 10 10 1 0.917 在试验3和誓言4中，“抽检3个产品全部不合格”与抽检“10个产品全部不合格”也是有差别的。在实际中，人们经常选用后验期望估计作为贝叶斯估计。 2.贝叶斯估计的误差 设 是 的一个贝叶斯估计，在样本给定后， 是一个数，在综合各种信息后， 是按 取值，所以评价一个贝叶斯估计的误差的最好而又简单的方式是用θ对 的后验均方差或平方根来度量，定义如下： 称为 的后验均方差,而其平方根称为后验标准误. 定义3.2 设参数θ的后验分布为 ,贝叶斯估计为 ,则 的后验期望 当 时,则 ,称为后验均方差. 后验均方差与后验方差有如下关系: 这表明,当 时,可使后验均方差达到最小,实际中常取后验均值作为 的贝叶斯估计值. 例2 设一批产品的不合格率为 ,检查是一个一个进行,直到发现第一个不合格品为止,若X为发现第一个不合格品时已检查的产品数,则X服从几何分布,其分布列为 设 的先验分布为 , 如今只获得一个样本观察值x=3,求 的最大后验估计,后验期望估计,并计算它的误差.故联合分布为 X=3的无条件概率为(利用全概率公式 故 可看出, 的最大后验估计 的后验方差为 3.区间估计(可