树扩展的朴素贝叶斯分类器的研究.pdfVIP

计算机科学2003Vo1.30N9.5(专刊) 树扩展的朴素贝叶斯分类器的研究 吴湘洲 王志海 石洪波 (北方交通大学人工智能实验室 北京100044) AbstractBayesNetworkisakindofgraphmodeldescribingthedependenceofthevariants,andalreadyappliedin DataMiningwidelyandefficiently.AsarestrictedBayesNetwork.TreeAugmentedNaiveBayesisoneofthebest BayesNetworkmethodsandhasbecomeaimportantBayesNetworkresearch.Italleviatestheindependenceas- sumptionsandimprovestheperformanceofBayesNetwork.Thispaperputsemphasisondiscussingthetworeal- izationwaysofTreeAugmentedNaiveBayesandcomparesdifferencesofthemaccordingtheexperimentresults. KeywordsBayesnetwork.Naivebayes,Treeaugmentednaivebayes,TANF.SP P(CIXt=s,A...AXN=x,) (2: 1 前言 (X=,)为属性一值对。 贝叶斯网络是描述数据变量之间依赖关系的图 如果N个属性相互条件独立，则此概率公式为 形模型，是一个有注释的有向无环图。贝叶斯网络顶 P(C,)nP(X，一z,IC) (3 点对应于有限集X中的随机变量XXZ,...X.其 此贝叶斯网络分类器为朴素贝叶斯(Naive 弧代表一个函数依赖关系。如果有一条弧由变量Y Bayes).朴素贝叶斯是每一个变量都以类变量作为 到X，则Y是X的双亲或者直接前驱，而X则是Y 唯一的父节点的简单结构。在朴素贝叶斯结构中变 的后继。一旦给定其双亲，图中的每个变量独立于图 量间不再有其他的联系，属性对类概率的影响与其 中该节点的非后继。图中X，的所有双亲变量用集合 它属性无关。朴素贝叶斯假定属性值相互条件独立。 Pa(X,)。 它指明了在给定在Pa(X)发生的情况下x，事 件发生的条件概率。因此实际上一个贝叶斯网络给 定了变量集合X上的联合条件概率分布: Ps(XXII-,X)一IIPH(X;jPa(X,))(1) 二 1 贝叶斯网络在给其他节点指派值的情况下，可 图1树扩展的朴素贝叶斯 以用来计算一个节点的条件概率;因此，给出其他属 性值的条件下，作为分类器的贝叶斯网络能计算出 3树扩展的贝叶斯网络 类节点的后验概率分布. 应用贝叶斯网络分类有两个步骤:通过贝叶斯 在现实世界中，朴素贝叶斯网络要求的条件独 网络学习得到模型和用贝叶斯网络进行推断给实例 立的假设很难满足.因此，为了减弱条件独立的假设 分类 和提高贝叶斯网络的性能，提出了许多方法，树扩展 本文重