基于信息论的bayesian网络结构学习算法研究-经济学家.pdfVIP

第25卷第1期 计算机应用 Vo1．25 No．1 2005年1月 Computer Applications Jan．20o5 文章编号：1001—9081(2005)01—0001—03 基于信息论的Bayesian网络结构学习算法研究 聂文广，刘惟一，杨运涛，杨 明 (云南大学计算机科学系，云南昆明650091) (nqlnwg@sohu．com) 摘 要：Bayesian网是一种进行不确定性推理的有力工具，它结合图型理论和概率理论，可以方 便地表示和计算我们感兴趣的事件概率，同时也是对实体之间依赖关系提供了一种紧凑、直观、有效 的图形表示。文中基于信息论中测试信息独立理论，对Bayesian网中各结点进行条件独立(cI)测 试，以发现各结点的条件依赖关系，并通过计算结点之间的互相依赖度以发现 Bayesian网边的方向， 从而构造Bayesian网结构，算法的计算复杂度只需要进行O(N )次CI测试。 关键词：Bayesian网络；结构学习；条件独立性；条件互信息；条件依赖度 中图分类号：TP393．02 文献标识码：A Algorithm of Bayesian network structural learning based on information theory NIE Wen—guang，LIU Wei—yi，YANG Yun—tao，YANG Ming (Department of Computer Science，Yunnan Universit) ，Kunming Yunnan 650091，China) Abstract：Bayesian network is a forceful tool to practise inference of uncertainty．It combines graphic theories and probabihty ones，which Can conveniently express and calculate the probability of interesting events and at the same time provide a compact，visual and effective graphic expression for the dependant relationship among the entities．On the basis of testing information independence theory，the test of CI(conditional independence)was carried out on all the joints in the Bayesian network to find out the conditionally dependant relations among them．Then an effective algorithm of Bayesian network structural learning WOS worked out，which only needed CI testing of O(N )times． Key words：Bayesian network；structural learning；Conditional Independence(CI)；conditionally mutual information； degree of conditional independence 种方法从理论上来说是可以找到一个较好的Bayesian网络的 0 引言