机器学习中的特征选择.pdfVIP

1 计算机科学2004V01．31N9．1 机器学习中的特征选择 张丽新王家钦赵雁南杨泽红 (清华大学计算机科学与技术系 智能技术与系统国家重点实验室 北京100084) 摘要20世纪90年代以来，特征选择成为机器学习领域的重要研究方向，研究成果十分显著，但是也存在许多问题 需要进一步研究。本文首先对特征选择和学习算法结合的三种方式进行了系统的总结；然后将一般特征选择定位为特 征集合空间中的启发式搜索问题，对特征选择算法中的四个要素进行了阐述，其中重点总结了特征评估的方法；最后 对特征选择的研究现状进行了回顾，分析了目前特征选择研究的不足和未来发展的方向。 关键词特征选择，机器学习，搜索算法，评估函数 FeatureSelectioninMachine Learning ZHANGLi--Xin ZHAOYan--NanYANG WANGJia-Qin Ze·-Hong State of and (The KeyLaboratoryIntelligentTechnologySystems，ComputerScienceTechnology 100084) Department-TsinghuaUniversity，Beijing Featureselectionhasbeenan researchareainmachine since90’Softhe20th Abstract important learning century． havebeen remaintObeunsolvedandneedfurther Greatachievementsachieved，howeverproblems many investiga— tion．Inthis make onthethreecombinationmodesoffeatuireselectionwithinductional— paper，wesystematicsurvey feature in of the offeature discussthe describe selectiontermsheuristicsearch space sets，and gorithm．We through forufactorsinfeatureselection whichtheevaluationfunctioniS and algorithms，in detailedlyanalyzed and weoverviewthe statusofthefeatureselection，andoutthelimitationsofcurrentresearchchal— investigation point future in work． lenges Featureselection，Machine