面向高维不平衡数据的特征选择算法.pdfVIP

小型微型计算机系统2024年8月第8期

DOI:10.20009/ki.21-1106/TP.2023-0075

JournalofChineseComputerSystemsVol.45No.82024

面向高维不平衡数据的特征选择算法

王振飞，袁佩瑶，曹中亚，张利莹

（郑州大学计算机与人工智能学院，郑州450001）

E-mail:zlyzzu2017@126.com

摘要：针对传统高维不平衡数据集的分类算法存在偏向多数类、忽视少数类等问题，本文提出一种基于密度聚类和重要性度

量的特征选择算法（DBIM）.首先通过随机降采样的方法构造出多个平衡子集，使用DBSCAN密度聚类方法作为基分类器生

成初始特征子空间.然后按照重要度对特征进行排序选择出较强分类的特征，最后，为了避免特征之间的余性，设计基于类分

布的权重指标与允余性评价指标相结合的方法进行计算，生成高质量的特征子集.在8个公开数据集上的实验结果表明，本文

提出DBIM算法可以生成高相关度且低允余度的特征子集，对高维不平衡数据集进行有效降维，提高分类性能.

关键词：高维不平衡数据集；密度聚类；特征选择；相关性；穴余性

中图分类号：TP18文献标识码：A文章编号：1000-1220(2024)08-1839-08

FeatureSelectionAlgorithmforHighDimensionalUnbalancedData

WANGZhenfei,YUANPeiyao,CAOZhongya,ZHANGLiying

(SchoolofComputingandArtificialIntelligence,ZhengzhouUniversity,Zhengzhou450001,China)

Abstract:Tosolvetheproblemthatthatthetraditionalclassificationalgorithmsofhigh-dimensionalunbalanceddatasetstendtothe

majorityclassandignoretheminorityclass,afeatureselectionalgorithmbasedondensityclusteringandimportancemeasurementis

proposedinthispaper.DBIMfirstconstructsmultiplebalancedsubsetsbyrandomdown-samplingmethod,andusesDBSCANdensity

clusteringmethodasthebaseclassifiertogenerateinitialfeaturesubspace.Thenthefeaturesaresortedaccordingtotheirimportanceto

selectthefeatureswithstrongclassification.Finally,toavoidtheredundancyamongfeatures,DBIMdesignsanewweightindexbased

onclassdistributionforcalculationcombinedwiththeredundancyevaluationindextogeneratehigh-qualityfeaturesubsets.Experi-

mentalresultsoneightpubliclyavailabledatasetsshowthattheDBIMalgorithmproposedinthispapercangeneratefeaturesubsets

withhighrelevanceandlowredundancy,effectivelyreducethedimensionalityofhigh-dime