第06章_贝叶斯网络.ppt

* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * 史忠植 高级人工智能 * 影响推理的因素 网络结构的特征 网络的拓扑结构 网络的大小 网络中变量的类型（离散、连续） 变量的分布墒 相关查询的特征 任务 查询类型 （批处理、异步执行） 可用的计算资源（嵌入式系统、并行处理） 相关证据的特征 证据的特征 * 史忠植 高级人工智能 * 查询的任务类型 预测 对给定的模型，将要发生什么 给定证据下的后验计算 所有的边界后验 指定的边界后验 指定的联合条件查询 最可能的假设 一个最可能的 n 个最可能的 决策策略 * 史忠植 高级人工智能 * 医疗诊断例子 贝叶斯推理中非条件分布和边界分布是常见的查询模式 一个节点的边界分布也称为该节点的信任函数 * 史忠植 高级人工智能 * 推理过程中的信任传播 * 史忠植 高级人工智能 * 推理算法 精确推理 联合概率计算 Na?ve Bayesian 图约简算法 Polytree算法 近似推理 前向模拟推理 随机模拟推理 The algorithm’s purpose is “… fusing and propagating the impact of new evidence and beliefs through Bayesian networks so that each proposition eventually will be assigned a certainty measure consistent with the axioms of probability theory.” (Pearl, 1988, p 143) * 史忠植 高级人工智能 * 精确推理－计算联合概率 任何查询都可以通过联合概率回答 步骤： 计算联合概率 P(AB)=P(A)*P(B|A) 边界化不在查询中的变量 P(B)=ΣAP(AB) 效率低 A B * 史忠植 高级人工智能 * 图约简算法－一般原理 基本观点 任何概率查询可以表示成网络的子网，推理的目的是把网络分解成几个子网 三个基本操作 拟转弧操作（Arc Reversal）－贝叶斯公式 孤寡点移出(Barren node removal)－求和公式 值节点归并(Merge with Value node)－期望最大化 * 史忠植 高级人工智能 * 约简算法－拟转弧操作 X1 X3 X2 X1 X3 X2 X1 X3 X2 X1 X3 X2 p(x1, x2, x3) = p(x3 | x1) p(x2 | x1) p(x1) p(x1, x2, x3) = p(x3 | x2, x1) p(x2) p( x1) p(x1, x2, x3) = p(x3 | x1) p(x2 , x1) = p(x3 | x1) p(x1 | x2) p( x2) p(x1, x2, x3) = p(x3, x2 | x1) p( x1) = p(x2 | x3, x1) p(x3 | x1) p( x1) * 史忠植 高级人工智能 * 约简算法－孤寡点移出 孤寡点－没有孩子的节点 * 史忠植 高级人工智能 * 约简算法－值节点归并 值节点－证据节点或赋值节点 * 史忠植 高级人工智能 * Polytree算法－介绍 该算法由Pearl 于1982年首次提出 基本观点 计算边界后验的消息传递机制 Lambda 算子：消息向上传向父亲 pi 算子：消息向下传向孩子 * 史忠植 高级人工智能 * Polytree算法－单连通网 定义： 在任何两个节点之间存在且仅存在一条路径（忽略方向） X Multiple parents and/or multiple children * 史忠植 高级人工智能 * 单连通网的表示 X 表示 m维随机向量; x 表示随机向量可能的取值 e 表示m维向量的一个取值 My|x 是条件概率p(y|x)的似然矩阵 p(y1|x1) p(y2|x1) . . . p(yn|x1) p(y1|x2) p(y2|x2)