一种不平衡数据集成分类方法.docx

一种不平衡数据集成分类方法 摘要：不平衡数据在各个应用领域普遍存在。在处理不平衡数据时，破坏原始数据的分布特点和丢弃多数类样本的潜在信息都会降低分类精度，为此，提出一种不平衡数据集成分类方法。从多数类样本中依据计算得到的综合权重进行随机采样，并与少数类样本组成新的训练样本子集；为了保证基分类器的差异性，将投影得到的不同样本子集作为各个基分类器的训练样本，通过多分类器集成学习获得最终分类结果；在UCI数据集下进行实验。结果表明，该方法不仅能够提高少数类样本的分类性能，而且能够有效提高整体分类精度。 关键词：不平衡数据；分类；集成学习；综合权重 DOIDOI：10.11907/rjdk.173258 中图分类号：TP301 文献标识码：A 文章编号文章编号：1672-7800（2018）008-0076-05 英文摘要Abstract：Imbalanced data is widespread in various application fields.When dealing with imbalanced data，breaking the distribution characteristics of the original data and discarding the latent information in the majority class samples will decrease classification accuracy.Therefore，in this paper，an integrated classification method for imbalance data is proposed.Firstly we randomly extract from the majority samples based on the calculated comprehensive weight，combine the extracted samples with the minority samples into new training samples； then，in order to ensure the difference between the base classifiers，we use the same subset of projections as the training samples of each base classifier，and get the final classification results by ensemble learning of multiple classifiers.Finally，experiments have been done on UCI data sets and the results show that this method can not only improve the classification performance of the minority class samples，but also effectively improve the overall classification accuracy. 英文关键词Key Words：imbalance data；classification；ensemble learning；comprehensive weight 0 引言 分类是数据挖掘、机器学习领域研究的重要内容，可以有效帮助人们对获取的数据进行预测分析、对未知的模式样本进行判断识别。目前，已有许多经典的分类算法，例如人工神经网络、决策树、支持向量机（SVM）等，用它们对平衡数据进行分类一般都能取得较好的分类效果。但是在实际应用中不平衡数据普遍存在于各个应用领域，例如文本分类[1]、疾病诊断[2]以及网络入侵检测[3]等。然而传统分类算法为了追求总体分类性能，通常只基于平衡数据分布或者忽略样本中的少数类样本，从而导致少数类样本分类准确率过低，分类器性能下降[4-7]。因此，研究用于处理不平衡数据集的分类方法，有效提高对少数类的分类准确率与分类器的整体性能显得尤为重要。 当前，不平衡数据分类问题的解决思路主要包括改变数据分布和改进已有分类算法。改变数据分布以达到数据平衡最常见的策略有随机过采样（over-sampling）、随机欠采样（under-sampling）[8-9]。随机过采样是指对少数类的样本进行复制，使数据集的样本数达到平衡，随机欠采样则以一定策略选取多类样本中的一个子集达到同样目的。过采样中应用最广泛的是 Chawla 等[10]提出来的SMOTE 算法，该算法的本质是改进随机过采样策略，