AI-05-15-贝叶斯网络-----人工智能课程.pptVIP

5、贝叶斯网络(wǎngluò)的近似推理 大规模多连通BN的精确推理是不可操作的， 必须通过近似推理来解决。 后验概率计算(jì suàn)的主要采样方法 直接采样方法 马尔可夫链蒙特卡罗（MCMC）方法 变分法(Variational method) 环传播(Loopy propagation)方法 第三十页，共45页。 直接采样方法： 直接采样算法 拒绝采样(Rejection sampling)算法 似然加权(Likelihood weighting)算法 上述方法的详细步骤请参见： 《人工智能：一种(yī zhǒnɡ)现代方法》第14章14.5.1节 Berkeley大学Russell等人制作的PPT 第三十一页，共45页。 马尔可夫链蒙特卡罗（MCMC）算法思想： 对前一个事件进行随机改变而生成事件样本 BN为每个变量指定了一个特定的当前状态 下一个状态是通过对某个非证据(zhèngjù)变量Xi进行采样来产生，取决于Xi的马尔可夫覆盖中的变量当前值 MCMC方法可视为：在状态空间中——所有可能的完整赋值空间——的随机走动——每次改变一个变量，但是证据(zhèngjù)变量的值固定不变。 第三十二页，共45页。 MCMC算法执行(zhíxíng)过程示例： Cloudy Rain Wet Grass Sprinkler S R P(W) t t t f f t f f 0.99 0.90 0.90 0.00 C P(S) t f 0.10 0.50 P(C) 0.50 C P(R) t f 0.80 0.20 【要求】：查询(cháxún)P(Rain | Sprinkler = true, WetGrass = true)的概率 第三十三页，共45页。 MCMC算法执行步骤： 证据变量Sprinkler, WetGrass固定为true 隐变量Cloudy和查询变量Rain随机(suí jī)初始化，例如， Cloudy = true, Rain = false，初始状态为：[C=true, S=true, R=false, W=true] 反复执行如下步骤： （1） 根据Cloudy的马尔可夫覆盖(MB)变量的当前值，对Cloudy采样，即根据P(Cloudy|Sprinkler= true, Rain=false)（即转移概率）来采样。即： P(C|S, ~R) = P(C,S,~R) / P(S, ~R) = P(C)P(S|C)P(~R|C) / [P(C)P(S|C)P(~R|C)+P(~C)P(S|~C)P(~R|~C)] =(0.5?0.1?0.2) / [0.5?0.1?0.2+0.5? 0.5?0.8]=0.04762 第三十四页，共45页。 再由计算机生成一个随机数q?[0,1]（可参照《概率统计》中的随机数生成方法）。比较转移概率值与随机数q的大小，以决定是继续停留在原状态(zhuàngtài)，还是转移到下一个新的状态(zhuàngtài)。判别方法如下： if q P(C|S, ~R) then 转移到下一个新状态(zhuàngtài)； otherwise 停留在原状态(zhuàngtài). 对于本例子，假设生成的随机数q=0.0489，可知， 转移概率P(Cloudy|Sprinkler= true, Rain=false)= 0.04762 q=0.0489，所以，Cloudy由true状态(zhuàngtài)转移到新状态(zhuàngtài)false，即采样结果为：Cloudy = false。故新的当前状态(zhuàngtài)为： [C=false, S=true, R=false, W=true] 第三十五页，共45页。 （2） 根据Rain节点的马尔可夫覆盖(MB)变量的当前值，对Rain采样，即根据P(Rain | Cloudy = false, Sprinkler = true, WetGrass = true)来采样。假设采样结果为：Rain = true。故新的当前状态为： [C=false, S=true, R=true, W=true] 【注】： 上述过程中所访问的每一个状态都是一个样本，能对查询(cháxún)变量Rain的估计有贡献。 （3）重复上述步骤，直到所要求的访问次数N。 若为true, false的次数分别为n1,