基于进化计算方法的支持向量机特征选择.pdfVIP

第29卷第5期 煤 矿 机 械 voJ．29No．5 2OO8年 5月 Coal Mine Machinel May．2008 基于进化计算方法的支持向量机特征选择 张鸿雁 (哈尔滨汽轮机厂有限责任公司，哈尔滨 150040) 摘 要：针对支持向量机训练过程中的特征选择问题，提出了基于进化计算方法的支持向量 机特征选择方法，该方法采用进化计算方法中2个典型的算法：遗传算法(GA)和微粒群算法(PSO) 为支持向量机选择优化的特征子集。通过对UCI标准数据集的实验，比较了遗传算法和微粒群算 法的使用效果。仿真实验结果证明了该方法的有效性。 关键词：支持向量机；进化计算；遗传算法；微粒群算法；特征选择 中图分类号：TP267 文献标志码：A 文章编号：1003—0r794(2008)05—0047—03 Feature Selection for SVM with Evolutionary Computing Method ZHANG Hong—yan (Harbin Turbine Factory Limited Company。Harbin 150040。China) Abstract：Aiming at the problem of feature selection in SVM training process，a new feature selection method for SVM(Support Vector Machine)based on evolutionary computing method is propo~ ．For the new method。 two typical evolutionary computing methods：genetic algorithm(GA)and particle sWalTI1 optimal(PSO)algo— rithm ale adopted to select the optimal feature subset for SVM．Practical performance of these two algorithms are compared through the simulation experiments on several UCI benchmark dataset，the simulation results demonstrate the validity of the proposed method． Key words：support vector machine；evolutionary computing；genetic algorithm；particle sWalTI1 optimal；fea— ture selection 0 引言 非常有用的特征作为特征子集进行训练，一些非常 近年来，针对支持向量机的特征选择研究已经 简单的分类器，也可以获得很好的效果。因此，特征 有了初步进展。支持向量机特征选择的优化目标是 选择对于提高分类效率是至关重要的。所谓特征选 学习机性能，通常只有通过训练和测试才能计算出 择就是从一组 Ⅳ个特征中，按一定的选择标准选择 来，因此优化方法一般不用传统的方法。而进化算 出一组由I1,(I1,Ⅳ)个特征组成的特征子集，这个子 法是一种利用种群信息搜索最优解的优化算法，通 集具有与特征全集一样或更好的分类功能。作为一 过合理的编码和适当的适应度函数设计，进化算法 种性能优异的机器学习方法，支持向量机在实际应 能够为支持向量机选择出对分类贡献较大的特征。 用当中所表现出来的性能不仅取决于分