基于条件互信息的特征选择改进算法.pdf

第38 卷 第14 期 计 算 机 工 程 2012 年7 月 Computer Engineering July 2012 Vol.38 No.14 文献标识码文献标识码：：A 文献标识码文献标识码：： 中图分类号中图分类号：：TP311.13 文章编号文章编号：：1000——3428(2012)14——0135——03 中图分类号中图分类号：： ·人工智能及识别技术·人工智能及识别技术·· 文章编号文章编号：： —— —— —— ··人工智能及识别技术人工智能及识别技术·· 基于条基于条件互信息件互信息的特征选择的特征选择改进改进算法算法 基于条基于条件件互信息互信息的的特征选择特征选择改进改进算法算法 刘海燕刘海燕，王，王 超，超，牛军钰牛军钰 刘海燕刘海燕，，王王 超超，，牛军钰牛军钰 (复旦大学计算机科学技术学院，上海 201203) 摘摘 要：要 ：针对传统特征选择算法只专注于特征类相关性或者特征冗余性的问题，提出一种基于条件互信息的特征选择算法。该算法采用 摘摘 要要 ：： k-means 的基本思想聚类特征，并从中选出类相关度最大的特征，从而去除不相关和冗余特征。实验使用 5 个数据集 ，结果表明，该算法 的分类性能优于传统特征选择算法。 关键词关键词：数据挖掘： ；特征选择；互信息；条件互信息 ；聚类；度量距离 关键词关键词：： Improved Feature Selection Algorithm Based on Conditional Mutual Information LIU Hai-yan, WANG Chao, NIU Jun-yu (School of Computer Science, Fudan University, Shanghai 201203, China) 【【Abstract 】】Aiming at the shortcomings of traditional feature selection which are neglect of relevancy to the class and redundancy to the feature, 【【 】】 this paper introduces a feature selection algorithm based on conditional mutual information. The algorithm clusters interdependent features into