基于NDF和优化的ID3的特征选择方法.pdfVIP

第31卷第 1期 暨南大学学报 (自然科学版) VoI．3l No．1 2010年02月 JournalofJinanUniversity(NaturalScience) Felb． 2010 基于NDF和优化的 ID3的特征选择方法 朱颢东 ， 钟 勇 (1．中国科学院成都计算机应用研究所，四川 成都 610041；2．中国科学院研究生院，北京 100039) [摘 要] 特征选择是文本分类中一个重要的课题．首先给出了一个新型文档频，然后把属性依赖度引入 ID3并 提出了一个基于优化ID3的属性约简算法，紧接着以此为基础，提出了一个新的特征选择方法．该特征选择方法使 用改进的文档频初选特征并用所提属性约简算法消除冗余．仿真结果证明该特征选择方法是有效的． [关键词】 特征选择； 文档频； ID3算法； 属性约简 [中图分类号] TP301 [文献标志码] A [文章编号] 1000—9965(2010)01-0020—04 Featureselection methodbased onNDF with optimizedID3 ZHU Hao．dong．_． ZHONG Yong (1．ChengduInstituteofComputerApplications，ChineseAcademyofSciences，ChengduSichuan610041，China； 2．TheGraduateSchooloftheChineseAcademyofSciences，Beijing100039，China) [Abstract] Featureselectionisanimportanttopicintextclassification．Fimfly，anewdocumentfre— quencyispresented．Andthen，attributedependenceisintroducedintoID3andanattributereductional— gorihtm basedonoptimizedID3isproposed．Finally，anew featureselectionmehtodwhichcombinesthe proposedattributereductionalgorihtm withhtenew documentfrequencyisprovided．ThenewmethodU— seshtenew documentfrequencytoselectfeatureandemploystheproposedattributereductionalgorihtm toeliminateredundancy．Simulationresultsshow 山atthenew featureselectionmethodispromising． [Keywords] featureselection； documentfrequency； ID3algorithm； attributereduction 随着计算机的普及和现代信息化程度的提高， 的性能．因此，在实行文本 自动分类之前必须去掉 文本信息急剧增长，从而使文本 自动分类作为一项 冗余特征以减少运算开销、提高分类的效率和精度． 有效处理大量文本信息的核心技术逐渐获得学术界 为此，本文提出了一个新的结合新型文档频、粗糙集 的高度关注．文本 自动分类根据文档内容以及其属 以及优化的ID3特征选择方法． 性给文档 自动分配一个或多个类别 ]．目前，在文 1 词频方法和文档频方法简析 本分类模型中一般用空间向量模型来对文档进行表 示 ．在这个表示模型中，训练文档通常由大量特 1．1 词频方法 (wordfrequency，wF) 征词组成，每个特征词对分类都起一定的作用，但这