基于混合多样性生成与修剪的集成单类分类算法.pdfVIP

第37卷第2期 电 子 与 信 息 学 报 V01．37NO．2 2015年2月 JournalofElectronics InformationTechnology Feb．2015 基于混合多样性生成与修剪的集成单类分类算法 刘家辰 苗启广 曹 莹 宋建锋 权义宁 (西安电子科技大学计算机学院 西安 710071) 摘 要：针对传统集成学习方法直接应用于单类分类器效果不理想的问题，该文首先证明了集成学习方法能够提升 单类分类器的性能，同时证明了若基分类器集不经选择会导致集成后性能下降；接着指出了经典集成方法直接应用 于单类分类器集成时存在基分类器多样性严重不足的问题，并提出了一种能够提高多样性的基单类分类器混合生成 策略；最后从集成损失构成的角度拆分集成单类分类器的损失函数，针对性地构造了集成单类分类器修剪策略并提 出一种基于混合多样性生成和修剪的单类分类器集成算法，简称为 PHD—EOC。在 UCI标准数据集和恶意程序行 为检测数据集上的实验结果表明，PHD．EOC算法兼顾多样性与单类分类性能，在各种单类分类器评价指标上均较 经典集成学习方法有更好的表现，并降低了决策阶段的时问复杂度。 关键词：机器学习；单类分类；集成单类分类；分类器多样性；集成修剪；集成学习 中图分类号：TP181 文章标识码：A 文章编号：1009—5896(2015)02—0386—08 D0I：10．11999／JEIT140161 EnsembleOne-classClassifiersBasedonHybrid DiversityGeneration andPruning LiuJia—chen MiaoQi—guang CaoYing SongJian—feng QuanYi—ning (SchoolofComputerScienceandTechnology，XidianUniversity，Xi’an710071，China) Abstract：Combiningone—classclassifiersusingtheclassicalensemblemethodsisnotsatisfactory．Toaddressthis problem ，thispaperfirstprovesthatthough one—classclassificationperformancecan beimprovedbyaclassifier ensemble，itcanalsodegradeifthesetofbaseclassifiersarenotselectedcarefully．Onthisbasis，thisstudyfurther analyzesthatthelackingofdiversityheavilyaccountsforperformancedegradation．Therefore，ahybridmethodofr generatingdiversebaseclassifiersisproposed．Secondly，inthecombiningphase，tofindthemostusefuldiversity， theone—classensemblelossissplitandanalyzedtheoreticallytoproposeadiversitybasedpruningmethod．Finally， by combining thesetwo steps，anovelensembleone—classclassifiernamedPruned Hybrid DiverseEnsemble One—classClassifier(PHD—EOC)isproposed．TheexperimentalresultsontheUCIdatasetsandamalic