排序特征子集选取方法研究.pdfVIP

第 2O卷 ．第 9期 计 算 机 技 术 与 发 展 Vo1．20 No．9 2010年 9月 COMPU1ER TECHN0U0GY AND DEVELOPMENT Sep． 2010 排序特征子集选取方法研究 胡素君，李 云 (南京邮电大学 计算机技术研究所，江苏 南京 210003； 南京邮电大学 计算机学院，江苏 南京 210003) 摘 要：特征选择是机器学习和数据挖掘领域的一个关键问题。而对于高维数据 ，通常会利用特定的评价准则，获取原始 特征的权重并进行排序。而如何从排序后的特征集中选择较优子集，仍然值得探讨。文中提出了一种简单的特征排序后 子集选取的过滤器方法 ，基本思想就是将指数熵与模糊特征评价指标相结合 ，利用类似顺序前向选择的搜索策略 ，通过寻 找模糊特征评价指标的变化 曲线拐点，作为搜索的终止条件。通过理论分析以及在合成和基准的现实数据集上的实验表 明该方法具有较好的性能。 关键词：特征选择；排序；指数熵 ；模糊特征评价指标 中图分类号 ：1]P30l 文献标识码 ：A 文章编号 ：1673—629X(2O1O)O9—0119—04 Research onFeatureSubsetSelectionAfterRanking HU Su-jun，LIYun (InstituteofComputerTechnology，NanjingUniversityofPostsandTelecommunications，Naniing210003，China； CollieofComputer，NanjingUniversityofPostsnadTelecommunications，Naniing210003，China) Abstract：Featureselectionisone0fkeyproblemsinmachinelearninganddatamining ．Asthehigh—dimensionaldataset。thefeatures ayealwaysrankedbasedOn theweightsobrainedfrom aspecificevaluation criterion．However，itisstillna openquestionofrhow to choosetheoptimalsubsetafterranking．Inthepaper，asimplemethodforsubsetselectionbasedonex~nmtialentropy，fuzzyfeaturee— valuationindexnadsequentialforwardsearchstrategyispresented，wtfiehbelongstofiltermode1．AndtheexperimentalresultsOnsyn— thesisnadbenehmarkdataestshaveshown itshighperformance． Keywords：featureselection；ranking ；exponentialentropy；fuzzyfeatureevaluationindex 0 引 言 广泛采用，也就是根据特征权值对特征进行排序。但 特征选择是数据挖掘等领域的一个研究热点，受 在连续的特征选择中，根据特征权重进行排序后，如何 到广泛的重视。特征选择是从一组特征中挑选出一些 对排序后的特征集确定要选择特征的数量 ，是 目前特 最有效的特征以降低特征空间维数和发现 自然模型的 征选择研究领域中的一个难点问题。特征排序好 以 真实变量。其已广泛应用到图像处理、文本分类、入侵 后 ，如果要选取的特