基于核方法的虚拟样本构造.pdf

ArtificialIntelligence 基于核方法的虚拟样本构造 刘鹏飞 ，何 良华 (同济大学 电子与信息工程学院，上海 201804) 摘 要 ：样本不平衡 问题 已经成为机器学习领域的研究热门。虚拟样本生成方法是一种重要 的解决样本不平衡 问题的方法， 它通过线性生成少数类样本来实现。在 以往 的大多数研 究工作 中，虚拟样本的生成是在原始的特征空间中进行的，样本通常处 于线性不可分的状态，将会导致生成的虚拟样本丢失几何特性。因此，文章提 出了一种基于核方法的虚拟样本构造方法，虚拟 样本在线性可分的核空间中生成。 关键词 ：样本不平衡；支持向量机 ；虚拟样本；核方法 中图分类号：TP181 文献标识码 ：A DOI：10．19358／j．issn．1674—7720．2017．03．016 引用格式 ：刘鹏飞 ，何 良华．基于核方法的虚拟样本构造 [J]．微型机与应用 ，2017，36(3)：52—54，58． Syntheticsampleconstructionbasedonkernelmethod LiuPengfei，HeLianghua (CollegeofElectronicsandInformationEngineering，Ton~iUniversity，Shanghai201804，China) Abstract：Learningfrom imbalanceddataisapopularproblem inmachinelearning．Syntheticover—samplingmethodisoneofimportantapproa— ehesbygeneratinglinearsyntheticminority classsamples．Whileinmostpreviousworks，syntheticsamplesaregenerated in originalfeature spacewheresamplesarelinearnon—separable，whichleadstothelossofgeometricalrelationbetweensamples．Therefore，inthispaper，anew oversamplingmethodcalledkernel—basedoversamplingmethodisproposed，samplesaregenerated inkernelspacewheresamplesin thisspace are linearseparable． Keywords：imbalanceddata；supportvectormachine；syntheticsample；kernelmethod O 引言 使用线性组合其他的少数类样本进行生成 ，而低维空间中 对不平衡样本的学习一直是机器学习领域的热点问题。 的样本往往处于线性不可分的状态 ，这可能导致新生成 的 样本不平衡问题的主要难点在于以往的分类算法大多以样本 虚拟样本丢失该类 的几何特性 。因此 ，在线性可分 的空间 分布平衡为前提，导致了分类结果往往偏 向于多数类样本”。 中对样本进行线性生成是一种更加适合的选择，一方面线 为解决样本不平衡条件下的分类 问题，人们提出了很 性可分的条件使得分类学习更加容易，另一方面，线性可 多应对方法 。其 中，构造虚拟样本作为基于数据层面的一 分空间保证 了新生成 的样本 的几何分布更加契合原始 的 种策略 已经成为一种主流的处理方法 。构造虚拟样本 样本空 间。支持 向量机 (SupportVectorMachine，SVM) 方法通过生成少数类虚拟样本来平衡样本分布 ，从而减少 算法将线性不可分 的样本映射到线性可分 的更高维空间 因样本分布不平衡带来 的影响。CHAWLANV等人提 出