基于群智能优化算法的特征选择方法研究.pdf

摘要

基于群智能优化算法的特征选择方法研究

特征选择是消除不相关，冗余和嘈杂特征的有效方法，它提高了分类的性能

并减轻了机器学习的计算负担。本文研究了基于群智能优化算法的特征选择方

法，并提出了几种改进的群智能优化算法提升特征选择方法的性能。

首先，本文将特征选择问题建模为一个多目标优化问题，以减少选择特征的

数量的同时提高分类准确性，并给出了该问题的表达式和限制条件。此外，本文

通过使用线性加权法将多个目标转化为适应度函数，以便于群智能优化算法进

行后续的求解。

其次，提出了一种改进的二进制粒子群算法（ImprovedBinaryParticleSwarm

Optimization，IBPSO）来解决构建的特征选择问题。IBPSO引入了基于莱维飞行

的本地搜索策略，基于加权惯性系数的全局搜索方法，基于变异机制的种群多样

性改进方法和二进制算子，以提高标准PSO（ParticleSwarmOptimization，PSO）

的性能并使之适合解决具有二进制解空间的特征选择问题。另一方面，通过使用

来自UCIrvine机器学习存储库的数据集，对基于IBPSO算法的特征选择方法进

行了仿真实验，以验证其有效性。结果表明，IBPSO在解决特征选择问题时，优

于对比方法。此外，IBPSO中的改进方法的有效性也通过实验所验证。

再次，提出了一种改进的二进制蜻蜓算法（ImprovedBinaryDragonfly

Algorithm，IBDA），它是对标准蜻蜓算法（DragonflyAlgorithm，DA）的扩展。

为了使算法更加适合特征选择问题，IBDA中引入了一种新颖的种群进化动态

（EvolutionaryPopulationDynamic，EPD）策略，以提高开发能力，同时确保算

法的种群多样性。此外，IBDA提出了一种新颖的交叉算子，该算子在交叉率和

迭代之间建立了联系，从而使算法可以动态调整解的交叉率，从而平衡了算法的

开发和探索。另外，算法采用了一种二进制机制，使该算法能够解决特征选择问

题。另一方面，通过使用来自UCIrvine机器学习存储库的数据集，对基于IBDA

算法的特征选择方法进行了仿真实验，以验证其有效性。结果表明，IBDA在解

决特征选择问题时，优于对比方法。此外，实验结果还表明IBDA中的EPD机

制相比其他EPD机制要更加适合解决特征选择问题，新颖的交叉算子的有效性

也被验证。

最后，本文总结了这项工作，分析了这项工作的不足之处，并就未来工作进

行了展望。

关健词：特征选择，群智能优化算法，粒子群算法，蜻蜓算法

Abstract

ResearchonFeatureSelection:SwarmIntelligenceMethods

Featureselectionisaneffectivemethodtoeliminateirrelevant,redundantand

noisyfeatures,whichimprovestheperformanceofclassificationandreducesthe

computationalburdenofmachinelearning.Inthispaper,westudythefeatureselection

methodbasedonswarmintelligenceoptimizationalgorithmsandproposeseveral

improvedswarmintelligenceoptimizationalgorithmstoenhancetheperformanceof

thefeatureselectionmethod.

First,thispaperformulatesthefeatureselectionproblemasamulti-objective

optimi