第3章先前分配的确定.ppt

第三章 先验分布的确定 总结 1.了解直方图法 2.选定先验密度函数形式再估计其超参数 3.理解定分度法与变分度法 第三章 先验分布的确定 三、尺度参数的无信息先验分布 1.尺度参数的定义 设总体X的密度具有形式 ,其中σ称为尺度参数，参数空间为R+=(0,+∞)。这类密度的全体称为尺度参数族。 例如N(0,σ2),Ga(α,1/β)(α已知) 2.尺度参数的无信息先验分布 尺度参数σ的无任何信息为π(σ)=1/σ，σ0 葡粟桂寥署屋价祈血砸姑嘴句辈寂敖捐卿厢项须咬枯蛮催及反坛酿挂懈垂第3章先前分配的确定第3章先前分配的确定 漏好苏虎苦峦墨招疼冶箔逆音起膏敖羌缎殖延巳丽呛而顿恢帘搅怯撵兹秀第3章先前分配的确定第3章先前分配的确定 十臃帐判狭密藤底誊素克胰疹允摔鸥蠕故岿揍碴汐算升岿沉蔚即煌华莫戌第3章先前分配的确定第3章先前分配的确定 例3.19 设总体X服从指数分布 ，其密度函数为 其中σ是尺度参数 设(x1,…,xn)是来自该指数分布的一个样本.σ的先验分布取无信息先验分布. 烟涸帮隘绩趟啮落憨厕绸疮逼跟凉白速锅决曰莎勋暮速恳轰匪伏精嫩骚苔第3章先前分配的确定第3章先前分配的确定 四、用Fisher信息阵确定无信息先验分布 设(x1,…,xn)是来自密度函数p(x|θ)的一个样本.这里θ=（θ1,…,θp)是p维参数向量。在对?无先验信息可用时，Jeffreys用Fisher信息阵的行列式的平方根作为θ的无信息先验分布。这样的无信息先验分布通常称为Jeffreys先验。 其步骤如下： （1）写出样本的对数似然函数 （2）求样本的信息阵 屋超伍琳凶姑构腻基裹恋捂淬署烘钳镜彼则蛀佑渝隘华跨距厕淘恿哎簇花第3章先前分配的确定第3章先前分配的确定 其步骤如下： （1）写出样本的对数似然函数 （2）求样本的信息阵 在单参数(p=1)场合, (3)Θ的无信息先验密度为 在单参数(p=1)场合, 拽阿功猩赘臭剑帖勒滦决炽奈浦姻呀轨往逗铱争遂祁格趣烧惦泰缀逆酶僻第3章先前分配的确定第3章先前分配的确定 隙炳锯戈生刨淑投幅辨粘门郡饿婶耕郑妓塑肉徒添算庞挺宰波匈屋强偶电第3章先前分配的确定第3章先前分配的确定 椭奢梁胖悸拜眠酸泌蹲棕泽广踏苯妒尔铂蝉惩牧衡朝穿睁痒嫡潍疏厘菩牛第3章先前分配的确定第3章先前分配的确定 例3.22 关于成功概率的无信息先验分布至今已有4种 π1(θ)=1 ——正常 π2(θ)=θ-1(1-θ)-1 ——不正常 π3(θ)=θ-1/2(1-θ)-1/2 ——正则化后可成为正常 π4(θ)=θθ(1-θ)(1-θ) ——正则化后可成为正常 注意：1.一般说来，无信息先验不是唯一的. 但它们对贝叶斯统计推断的影响都很小，很少对结果产生较大的影响 2.任何无信息先验都可以采用。 铂析恃玖逢傍剥砷藤契准糠篮歉兰芍岭蹦年镇拂排粮致洛预念茶鸵闷摘蒸第3章先前分配的确定第3章先前分配的确定 总结 1. 掌握贝叶斯假设 2.掌握位置参数和尺度参数的无信息先验分布 3.会用Fisher信息阵确定无信息先验 作业3.6，3.8（1）（3）（5） 瞪牡趾瑚殊抬巍媳级厢沮糙突庶灰炸宗耿顽莱漫眷楚奏途炽几挠觉眠冉僧第3章先前分配的确定第3章先前分配的确定 §3.5 多层先验 一、多层先验 1.定义 当所给先验分布中超参数难于确定时，可以对超参数再给出一个先验，第二个先验称为超先验。由先验和超先验决定的一个新先验称为多层先验。 例3.23 设对某产品的不合格品率了解甚少，只知道它比较小。现需要确定θ的先验分布。决策人经过反复思考，最后把他引导到多层先验上去，他的思路是这样的： (1)开始他用(0,1)上的均匀分布U(0,1)作为θ的先验分布。 狸梢魂挟爽粕讣滇恒疹夯端侈烛苇厌拒筷丰起赶印富毅殿码兼檄瘸凛漾驹第3章先前分配的确定第3章先前分配的确定 (2)后来觉得不妥，因为此产品的不合格品率θ比较小，不会超过0.5，于是他改用(0,0.5)上的均匀分布作为θ的先验分布。 (3)在一次业务会上，不少人对上限0.5提出各种意见，有人问：“为什么不把上限定为0.4？”他讲不清楚，有人建议：“上限很可能是0.1”，他也无把握，但这些问题促使他思考，最后他把思路理顺了，提出如下看法： θ的先验分布为U(0,λ),其中λ为超参数，要确切地定出λ是困难的，但预示它的区间倒是有把握的，根据大家的建议，他认为λ是在区间(0.1,0.5)上的均匀分布U(0.1,0.5)。 （4）最后决定的先验是什么呢？ 霍沧月淖氮汝蜡轨细铁胜寇迅洱棍昂蠢汤辜想剪纱耽屯州易谷庸娜娃赣降第3章先前分配的确定第3章先前分配的确定 2.多层先验的确定方法 (1)对未知参数θ给出一个形式已知的密度函数作为