第8章贝叶斯网导论【本科研究生通用机器学习课程精品PPT系列】.ppt

2.4图分隔与变量独立两变量X和Y如果直接相连，则表示它们之间有直接依赖关系，对X的了解会影响关于Y的信度，反之亦然。如果X和Y不直接相连，那么信息需要通过其它变量才能在两者之间传递。BurglaryEarthquakeAlarmJohnCallsMaryCalls2.4图分隔与变量独立2.4解决方案BurglaryAlarmJohnCalls顺连BurglaryEarthquakeAlarm分连AlarmJohnCallsMaryCalls汇连2.4图分隔与变量独立2.5因果关系与贝叶斯网络在实际应用中，人们往往利用因果关系来确定贝叶斯网络的结构。在利用因果关系建立起来的贝叶斯网中，变量间的边表示的是因果关系，而非简单的概率依赖关联。这样的贝叶斯网称为贝叶斯因果网（Bayesiancausalnetworks），简称因果网（causalnetworks）。在贝叶斯因果网上除了可以进行概率推理外，还可以进行关于干预后果(effectsofintervention)的推理以及虚设(counterfactual)推理(Pearl,2000)如果假设制造一次地震，则会认为警铃可能会响；反过来，如果知道有人弄响警铃，则不会认为将发生地震。因此，地震是警铃响的原因，反之不然。2.6下一讲的主要内容贝叶斯网是概率论与图论相结合的产物。在一个贝叶斯网中，可以从概率论的角度谈论变量之间的依赖与独立。熵（信息论）2.6下一讲的主要内容问题与挑战如何获得贝叶斯网络中的参数？如何构造贝叶斯网络？基本概念贝叶斯分类一、朴素贝叶斯分类器二、朴素贝叶斯分类器的优缺点和改进三、动态贝叶斯网络六、贝叶斯网用于故障诊断五、贝叶斯网络在计算机中的应用四、三、贝叶斯网络的应用三、贝叶斯网的应用贝叶斯网成为许多研究领域的常用工具。机器学习、统计学、系统工程以及模式识别中的许多模型都是贝叶斯网的特例。与专业相关的医疗诊断、生物信息学、金融分析、生态学、农牧业、编码学等等。3.1贝叶斯分类贝叶斯分类是统计分类方法。理论上讲，与其它所有分类算法相比，贝叶斯分类具有最小的出错率。然而，实践中并非如此。这是由于对其应用的假设（如类条件独立假设）的不准确性，以及缺乏可用的概率数据造成的。研究结果表明，贝叶斯分类器对两种数据具有较好的分类效果：一种是完全独立(CompletelyIndependent)的数据，另一种是函数依赖(FunctionallyDependent)的数据。3.1贝叶斯分类3.1贝叶斯分类在贝叶斯学习方法中实用性很高的一种称为朴素贝叶斯分类器（naiveBayesclassifier）的方法。在某些领域，其性能与神经网络和决策树相当。1.3几个重要原理链规则(chainrule)利用变量间条件独立性不确定性推理实例：假设你家里装有警铃（Alarm）。当地地震（Earthquake）和盗窃（Burglary）时有发生。地震和盗窃都有可能触发警铃，听到警铃后，两个邻居Mary和John可能会打电话给你，但也不保证。Mary和John互不认识。一天，你接到Mary的电话，说听到你家警铃响，你想知道家中遭盗窃的概率多大？要计算的是接到Mary的电话(Mary=y)后，你对家里遭盗(Burglary=y)的信度，即P(Burglary=y|Mary=y)。1.3不确定性推理与联合概率分布1.3不确定性推理与联合概率分布1.3不确定性推理与联合概率分布1.4存在的问题1.5解决方案但是，它使得我们可以根据问题的背景知识做一些合理的独立假设以降低复杂度。1.5解决方案先验知识1：在不知道Alarm的情况下，地震（Earthquake）应该与盗窃（Burglary）无关。独立假设1：于是假设Earthquake与Burglary相互独立，即：P(Earthquake,Burglary）=P(Earthquake)P(Burglary)P(Earthquake|Burglary）=P(Earthquake)BurglaryEarthquakeAlarm独立假设11.5解决方案先验知识2：John是否打电话直接取决于他是否听到警铃(Alarm)，与是否发生盗窃(Burglary)无关，也与是否发生地震(Earthquake)无关。独立假设2：在已知警铃(Alarm)的情况下，John是否打电话与是否发生Burglary相互独立，与是否发生盗窃(Burglary)相互独立。BurglaryAlarmJohnCalls独立假设2Earth