贝叶斯决策讲义.pptxVIP

第五章 贝叶斯决策第一节 贝叶斯决策问题第二节 后验风险决策第三节 常用损失函数下的贝叶斯估计第四节 抽样信息期望值第五节 最佳样本量的确定第六节 二行动线性决策问题的EVPI第一节 贝叶斯决策问题一、决策问题分类 (1)仅使用先验信息的决策问题称为无数据(或无样本信息)的决策问题; (2)仅使用抽样信息的决策问题称为统计决策问题; (3)先验信息和抽样信息都使用的决策问题称为贝叶斯决策问题.二、贝叶斯决策问题 先验信息和抽样信息都用的决策问题称为贝叶斯决策问题。若以下条件已知，则我们认为一个贝叶斯决策问题给定了。(4) 定义在 上的二元函数 称为损失函数三、贝叶斯决策的优缺点1.优点主要表现在:(1)贝叶斯决策充分利用各种信息,使决策结果更加科学化;(2)能对调查结果的可能性加以数量化的评价;(3)贝叶斯决策巧妙地将调查结果和先验知识有机地结合起来;(4)贝叶斯决策过程可以不断地使用,使决策结果逐步完善.2.缺点:(1)贝叶斯决策所需要的数据多，分析计算也比较复杂,如果解决的问题比较复杂时,这个矛盾就更加突出;(2)在决策的过程中，有些数据必须要使用主观概率,有些人不是很相信,这也妨碍了贝叶斯决策方法的推广和使用.O第二节 后验风险决策1.后验风险函数 我们把损失函数 对后验分布 的期望称为后验风险,记,即 后验风险就是用后验分布计算的平均损失.112.决策函数定义5.1在给定的贝叶斯决策问题中,从样本空间 到行动集A上的一个映照 称为该决策问题的一个决策函数,表示所有从样本空间χ到A上的决策函数组成的类,称为决策函数类.在贝叶斯决策中我们面临的是决策函数类D,要在D中选择决策函数 ,使其风险最小.例题分析3.后验风险准则 定义 在给定的贝叶斯决策问题中 是其决策函数类,则称为决策函数 的后验风险.假如在决策函数类中存在这样的决策函数 ,它在D中有最小的风险,即则称 为后验风险准则下的最优决策函数,或称贝叶斯决策,或贝叶斯解,或贝叶斯估计。注: (1)定义中的条件:给定的贝叶斯决策问题 (2)定义中的先验分布允许是广义的.例1 设 是来自正态分布N(θ,1)的一个样本。又设参数θ的先验分布为共轭先验分布N(0,τ2),其中τ2已知.而损失函数为0-1损失函数试求参数θ的贝叶斯估计。解:分三步求解:(1)求参数θ的后验分布(2)对于任意一个决策函数 计算后验风险函数:(3)求出使得上述风险函数达到最小时的决策函数:例2 在市场占有率θ的估计问题中，已知损失函数为：药厂厂长对市场占有率θ无任何先验信息，另外在市场调查中，在n个购买止痛剂的顾客中有x人买了新药，试在后验风险准则下对θ作出贝叶斯估计。解:(1)求参数θ的后验分布: 结果为 Be(x+1,n-x+1)(2) ,计算风险函数(3)求最优行动使上述风险函数达到最小.令: 则得:(4)数值计算:例3如何判断一个样本是来自密度函数为p0(x) 的总体还是来自密度函数为p1(x) 的总体。(2)求后验分布:(3)计算每个行动下的后验风险:R(a=0|x)=P(θ=1|x) R(a=1|x)=P(θ=0|x)(4)找出最佳行动,即确定拒绝域.解:两个假设:问题:接受H0还是H1?(1)把假设检验问题转化为贝叶斯决策问题:①参数空间Θ={0,1}②行动空间A={0,1}③先验分布:P(θ=0)=π0, P(θ=1)=π1④损失函数:决策正确无损失,决策错误的损失为1.则第三节 常用损失函数下的贝叶斯估计1.平方损失函数下的贝叶斯估计定理5.1 在平方损失函数 下, 的贝叶斯估计为后验均值,即[Pr] 在平方损失函数下,任何一个决策函数 的后验风险为定理5.2 在加权平方损失函数 下, θ的贝叶斯估计为:其中λ(θ)为参数空间Θ上的正值函数.定理5.3 在参数向量 的场合下,对多元二次损失函数,Q为正定阵, θ的贝叶斯估计为后验均值向量:例4 设 是来自泊松分布的一个样本.若θ的先验分布用其共轭先验分布G(α,λ),即其中参数α与λ已知.求平方损失函数下θ的贝叶斯估计.解:解题过程分为以下三步:(1)根据题意求出θ的后验分布(2)写出后验均值(3)结论:由定理5.1知θ的贝叶斯估