基于遗传算法和互信息公式结合的特征选择-华南师范大学学报.pdf

华南师范大学学报 （自然科学版） ２０１４年１１月 ＪＯＵＲＮＡＬＯＦＳＯＵＴＨＣＨＩＮＡＮＯＲＭＡＬＵＮＩＶＥＲＳＩＴＹ 第４６卷第６期 　　　　　　　　　　　 Ｎｏｖ．２０１４ 　　　　　　　　　　　 （ＮＡＴＵＲＡＬＳＣＩＥＮＣＥＥＤＩＴＩＯＮ） 　Ｖｏｌ．４６　Ｎｏ．６ 文章编号：１０００－５４６３（２０１４）０６－００２８－０５ 基于遗传算法和互信息公式结合的特征选择  涂昌慧，葛　红 ，胡天亮 （华南师范大学计算机学院，广州５１０６３１） 摘要：提出了一种由遗传算法和改进互信息公式相结合的特征选择方法．将遗传算法中的特征评价函数换为改进互 信息公式对特征进行选择，结合了过滤式和封装式这２种特征选择方法的优点．实验部分采用另外２种特征选择算 法与该文所提方法分别进行特征选择，将３种方法所得到的特征子集用于概率神经网络、ＢＰ神经网络分类器上，通 过比较对应的分类精度，检验各种特征选择方法的效果．结果显示，所提出的特征选择方法能更为有效地实现特征 选择，所取得的特征子集具有更好的泛化特性． 关键词：互信息；适应度函数；遗传算法；特征选择 中图分类号：ＴＰ３９１　　　文献标志码：Ａ　　　ｄｏｉ：１０．６０５４／ｊ．ｊｓｃｎｕｎ．２０１４．０７．００３ ＦｅａｔｕｒｅＳｅｌｅｃｔｉｏｎＢａｓｅｄｏｎｔｈｅＣｏｍｂｉｎａｔｉｏｎｏｆＧｅｎｅｔｉｃＡｌｇｏｒｉｔｈｍａｎｄＭｕｔｕａｌＩｎｆｏｒｍａｔｉｏｎＦｏｒｍｕｌａ  ＴｕＣｈａｎｇｈｕｉ，ＧｅＨｏｎｇ，ＨｕＴｉａｎｌｉａｎｇ （ＳｃｈｏｏｌｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅ，ＳｏｕｔｈＣｈｉｎａＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙ，Ｇｕａｎｇｚｈｏｕ５１０６３１，Ｃｈｉｎａ） Ａｂｓｔｒａｃｔ：Ｉｎｏｒｄｅｒｔｏｅｆｆｅｃｔｉｖｅｌｙｒｅｄｕｃｅｔｈｅｆｅａｔｕｒｅｄｉｍｅｎｓｉｏｎａｎｄｏｂｔａｉｎｔｈｅｏｐｔｉｍａｌｓｕｂｓｅｔｏｆｆｅａｔｕｒｅｓ，ａｍｅｔｈｏｄ ｆｏｒｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｃｏｍｂｉｎｉｎｇｔｈｅｇｅｎｅｔｉｃａｌｇｏｒｉｔｈｍｗｉｔｈｔｈｅｉｍｐｒｏｖｅｄｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎｆｏｒｍｕｌａｉｓｐｒｏｐｏｓｅｄ．Ｔｈｅ ｉｍｐｒｏｖｅｄｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎｆｏｒｍｕｌａｉｓｕｓｅｄａｓｔｈｅｆｉｔｎｅｓｓｆｕｎｃｔｉｏｎｏｆｇｅｎｅｔｉｃａｌｇｏｒｉｔｈｍｆｏｒｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎ．Ｔｈｅ ａｌｇｏｒｉｔｈｍｐｒｅｓｅｎｔｅｄｉｎｔｈｉｓｐａｐｅｒｃｏｍｂｉｎｅｓｔｈｅａｄｖａｎｔａｇｅｓｏｆｆｉｌｔｅｒａｎｄｗｒａｐｐｅｒｍｅｔｈｏｄｓ．Ｔｈｅｏｔｈｅｒｔｗｏｆｅａｔｕｒｅｓｅ ｌｅｃｔｉｏｎａｌｇｏｒｉｔｈｍｓａｒｅｕｓｅｄｔｏｃｏｍｐａｒｅｗｉｔｈｔｈｉｓｍｅｔｈｏｄ；ａｎｄｐｒｏｂａｂｉｌｉｓｔｉｃｎｅｕｒａｌｎｅｔｗｏｒｋａｎｄＢＰｎｅｕｒａｌｎｅｔｗｏｒｋ ａｒｅｕｓｅｄａｓｃｌａｓｓｉｆｉｅｒｓｔｏｔｅｓｔｔｈｅｓｅｔｈｒｅｅｔｙｐｅｓｏｆｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎａｌｇｏｒｉｔｈｍｓ．Ｔｈｅｐｅｒｆｏｒｍａｎｃｅｏｆｄｉｆｆｅｒｅｎｔａｐｐｒｏａ ｃｈｅｓａｒｅｃｏｍｐａｒｅｄｂｙｃｌａｓｓｉｆｉｃａｔｉｏｎａｃｃｕｒａｃｙ．Ｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｔｈｅｐｒｏｐｏｓｅｄｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎｍｅｔｈｏｄ ｃａｎｓｅｌｅｃｔｆｅａｔｕｒｅｓｅｆｆｅｃｔｉｖｅｌｙｗｉｔｈｂｅｔｔｅｒｇｅｎｅｒａｌｉｚｅｄｐｒｏｐｅｒｔｙ． Ｋｅｙｗｏｒｄｓ：ｍｕｔｕａｌｉｎｆｏｒｍａｔｉｏｎ；ｆｉｔｎｅｓｓｆｕｎｃｔｉｏｎ；ｇｅｎｅｔｉｃａｌｇｏｒｉｔｈｍ；ｆｅａｔｕｒｅｓｅｌｅｃｔｉｏｎ 　　特征选择是统计学、机器学习和数据挖掘等领