面向matlab 的贝叶斯分类器实验平台mbnc.pdfVIP

第 43 卷 　第 5 期 ( ) Vol. 43 No. 5 复 旦 学 报 自然科学版 2004 年 10 月 Journal of Fudan University (Natural Science) Oct. 2004 　　文章编号 (2004) 基于 Matlab 的贝叶斯分类器实验平台 MBNC 1 1 2 1 1 程泽凯 ,林士敏 ,陆玉昌 ,蒋望东 ,陆小艺 ( 1. 广西师范大学 计算机科学系 ,桂林 　541004 ;2. 清华大学 计算机科学与技术系 ,北京 　100084) 摘 　要 : 为了测试评估贝叶斯分类器的性能 ,用不同数据集进行对比实验是必不可少的. 现有的贝叶斯网络实 验软件包都是针对特定目的设计的 ,不能满足不同研究的需要. 介绍了用 Matlab 在 BN T 软件包基础上建构的 贝叶斯分类器实验平台 MBNC ,阐述了 MBNC 的系统结构和主要功能 , 以及在MBNC 上建立的朴素贝叶斯分类 器 NBC ,基于互信息和条件互信息测度的树扩展的贝叶斯分类器 TANC ,基于 K2 算法和 GS 算法的贝叶斯网络 分类器 BNC. 用来自 UCI 的标准数据集对 MBNC 进行测试 ,实验结果表明基于 MBNC 所建构的贝叶斯分类器 的性能优于国外同类工作的结果 ,编程量大大小于使用同类的实验软件包 ,所建立的 MBNC 实验平台工作正 确、有效、稳定. 在 MBNC 上已经进行贝叶斯分类器的优化和改进实验 , 以及处理缺失数据等研究工作. 关键词 : 机器学习 ; 数据采掘 ; 贝叶斯网络; 贝叶斯分类器; Matlab 应用 中图分类号: TP 39 文献标识码 : A 　　　　 1 　研究背景与动机 贝叶斯分类器1 ～5 是当前数据采掘研究关注的热点之一. 贝叶斯分类器是一种特殊的贝叶斯网络 , 它选取一个变量作为类变量 ,其余的变量作为属性变量. 为了测试评估贝叶斯分类器的性能 ,需要用不同 数据集进行对比实验. 现有的贝叶斯网络学习的软件包多数都是针对特定的目的和算法设计的 ,往往不 能满足研究的需要. 建构一个工作稳定 ,能对多种数据集进行处理的贝叶斯网络分类器实验平台是十分 必要的. 在这个平台上应该能够实现不同的贝叶斯分类器 ,而且通过扩展可以执行其他应用研究任务. 利用实验平台 ,研究者可以把主要精力放在贝叶斯网络学习算法的设计上 ,而不必过多的考虑底层的内 容 ,提高研究的效率. 从互联网上下载了 BayesBuider ,BN power constr. ,BN Toolkit , Hugin Expert ,Java Bayes , MSBNx , Netica 等多个软件包. 其中只有JavaBayes 和 BN Toolkit (BN T) 软件包可以免费获得源程序. JavaBayes 是 用Java 语言开发的. Java 对于大量的数值计算没有现成的工具 ,实现贝叶斯分类器比较繁琐 ,程序调试也 难度较大. BN T ( 软件包地址 : http :/ / www. ai. nit . edu/ murphyk/ Software/ BN T/ bnt . html) 是 Kevin P. Murphy 基于 Matlab 语言开发的关于贝叶斯网络学习的软件包 ,提供了多种底层基础函数库 ,支持精确推 理和近似推理、参数学习和结构学习、静态模型和动态模型 ,BN T 的可扩展性良好. 但是 BN T 没有将贝 叶斯网络学习的基本函数集成为某个系统 ,也没有图形用户界面. 因此 ,采用 BN T 为原型进行二次开发. 2 　M