信息熵在粗糙集中衍生的若干概念.pdfVIP

维普资讯 第 l8卷 第6期 计 算 机 技术 与 发展 Vo1．18 No．6 2008年 6月 COMPUTERTECHNOLOGYANDDEVELOPMENT Jun． 2008 信息熵在粗糙集中衍生的几个概念 纪 滨 (安徽_r--~3v学 计算机学院，安徽 马鞍 山 243002) 摘 要：随着对粗糙集理论研究的的深入，基于信息论的信息熵陆续被引入到粗糙集研究中，陆续产生了一些如条件熵、 联合熵、知识熵、决策熵、知识粗糙熵、粗集粗糙熵等新的概念，尽管丰富了粗糙集理论和应用，但使用中存在语义不统一 的地方 ，甚至缺乏必要的说明和证 明。对这些有价值的新概念作了系统的、严格的、规范的定义及阐述 ，给出了它们的公 式表示，同时，通过相关熵的运算揭示彼此间的关系，最后指出这些熵的应用范畴，以便研究人员在清楚概念的基础上作 进一步研究。 关键词：粗糙集；信息熵；知识熵；决策熵；粗糙熵 中图分类号 ：TP39172 文献标识码 ：A 文章编号：1673—629X(2008)06—0073—03 SeveralConceptsfrom InformationEntropy inRoughSets JIBin (SchoolofComputerScience，AnhuiUniversityofTechnology，Maanshan243002，China) Abstract：W iththedevelopmentofroughsetstheory，entropybasedoninformationthoery hasbeenapplyingtothestudying．Somecreated conceptssuchasocnditionentropy，jointentropy，knowledgeentropy，decisionentropy，knowledgeocughentropyandocugh—setsocugh enrtopyenrichroughests’thoery ，however，thedenotationsarenotclera，nadevenlackingofthenecessaryexplanationsna dproofs． Thees valuablenew conceptsareexplainde scientifically nadthemutualrelationsofthem arerevealde throughopreatinginthispaper． Basedonit，researchersworkconvenientlyforfurtherstudying． Keywords：roughests；infomr ationentropy；knowledgeentropy；dceisionentropy；roughentropy O 引 言 和证明。这或多或少影响了读者对文章的阅读和联 文中假设读者已经熟悉经典粗糙集理论 中的一些 想。文中旨在对这些有价值的概念作一系统规范表达 基本概念 ，将不再介绍，如有需要，可 以参照文献[1]。 及阐述，以便研究人员在清楚概念的基础上方便阅读 传统的粗糙集理论是以代数方法定义的，它将域看成 有关文章，作进一步研究。 一 个集合 ，而将知识看成是在域上构造分类的能力，即 文中首先从信息熵出发，分别对条件熵、联合熵、 对集合进行构造划分 (partition)的能力。信息熵理论 知识熵、决策熵、知识粗糙熵、粗集粗糙熵、互信息进行 是信息