人工智能课件3_推理.ppt

贝叶斯网络的由来 全联合概率计算复杂性十分巨大 朴素贝叶斯太过简单 现实需要一种自然、有效的方式来捕捉和推理——不确定性知识 变量之间的独立性和条件独立性可大大减少为了定义全联合概率分布所需的概率数目 贝叶斯网络（基本概念） 贝叶斯网络： 一系列变量的联合概率分布的图形表示。 一个表示变量之间的相互依赖关系的数据结构；图论与概率论的结合。 贝叶斯网络的定义 是一个有向无环图 DAG 随机变量集组成网络节点，变量可离散或连续 连接节点对的有向边组成边集合 每节点Xi都有一个条件概率分布表：P Xi|Parents Xi ，量化其父节点对该节点的影响 独立和条件独立 Weather Cavity Catch Toothache Weather和其它3个变量相互独立 贝叶斯网络示例 Burglary Earthquake MaryCalls JohnCalls Alarm B E P A t t t f f t f f 0.95 0.94 0.29 0.001 A P J t f 0.90 0.05 A P M t f 0.70 0.01 P B 0.001 P E 0.002 贝叶斯网络的语义 贝叶斯网就是一个在弧的连接关系上加入连接强度的因果关系网络 。 贝叶斯网络的语义 P x1,..., xn P x1|parent x1 ... P xn|parent xn 贝叶斯网络的语义公式计算示例： 试计算：报警器响了，但既没有盗贼闯入，也没有发生地震，同时John和Mary都给你打电话的概率。 解： P J,M,A,~B,~E P J|A P M|A P A|~B,~E P ~B P ~E 0.9x0.7x0.001x0.999x0.998 0.00062 0.062% 贝叶斯网络的推理 计算 贝叶斯网络中的条件独立关系： 给定父节点，一个节点与它的非后代节点是条件独立的 给定一个节点的父节点、子节点以及子节点的父节点——马尔可夫覆盖 Markov blanket ，这个节点和网络中的所有其它节点是条件独立的 主观Bayes方法 用产生式规则表示知识: IF E THEN LS,LN H 式中, LS,LN 表示知识的静态强度 LS:充分性因子 LN:必要性因子 充分性度量 它表示E 对H 的支持程度，取值于[0, ∞],由专家给出。 必要性度量 它表示~E 对Ｈ的支持程度，即E 对H 为真的必要性程度，取值范围为[0,+∞]，也是由专家凭经验给出。 主观Bayes方法 几率函数 表示x的出现概率与不出现概率之比 当P x 0时，有 O x ＝ 0 当P x 1时，有 O x ＝∞ 把取值为[0,1]的P X 放大为取值[0,+ ∞]的O X . 知识不确定性的表示 由Bayes公式， 由以上两式可得， 即有， 同理可得: 以上两式是修改的Bayes公式 当E为真时,利用LS将H的先验几率O H 更新为后验几率O H|E 当E为假时,利用LN将H的先验几率O H 更新为后验几率O H|~E 知识不确定性的表示 LS→∞时,O H|E →∞,P H|E →1, E的存在导致H为真. 因此称E对H是充分的, LS为充分性因子 LN→0时,O H|~E →0,P H|~E →0, E的不存在导致H为假. 因此称E对H是必要的, LN为必要性因子 证据的不确定性描述 根据观察S直接求出P E|S 非常困难， 引进了可信度C E|S ，用户可根据实际情况在[-5,5]中选取一个整数作为初始证据的可信度。 可信度C E|S 与概率P E|S 的对应关系可用下式表示： C E|S -5，表示在观察S下证据E肯定不存在，即P E|S 0；　　C E|S 0 ，表示在观察S与证据E无关，即P E|S P E ；　　C E|S 5 ，表示在观察S下证据E肯定存在，即P E|S 1。　　这样，用户只要对证据E给出在观察S下的可信度C E|S ，系统即可求出相应的P E|S 。 组合证据的不确定性描述 对于组合证据 E＝E1 AND E2 AND …AND En 　　则 P E|S ＝min P E1|S ,P E2|S , …,P En|S 对于组合证据 E＝E1 OR E2 OR … OR En 　　则 P E|S ＝ma