基于混合多样性生成与修剪的集成单类分类算法-电子与信息学报.PDFVIP

第 37 卷第 2 期 电 子 与 信 息 学 报 Vol.37 No.2 2015 年 2 月 Journal of Electronics Information Technology Feb. 2015 基于混合多样性生成与修剪的集成单类分类算法 刘家辰 苗启广* 曹 莹 宋建锋 权义宁 (西安电子科技大学计算机学院 西安 710071) 摘 要：针对传统集成学习方法直接应用于单类分类器效果不理想的问题，该文首先证明了集成学习方法能够提升 单类分类器的性能，同时证明了若基分类器集不经选择会导致集成后性能下降；接着指出了经典集成方法直接应用 于单类分类器集成时存在基分类器多样性严重不足的问题，并提出了一种能够提高多样性的基单类分类器混合生成 策略；最后从集成损失构成的角度拆分集成单类分类器的损失函数，针对性地构造了集成单类分类器修剪策略并提 出一种基于混合多样性生成和修剪的单类分类器集成算法，简称为 PHD-EOC。在 UCI 标准数据集和恶意程序行 PHD-EOC 为检测数据集上的实验结果表明， 算法兼顾多样性与单类分类性能，在各种单类分类器评价指标上均较 经典集成学习方法有更好的表现，并降低了决策阶段的时间复杂度。 关键词：机器学习；单类分类；集成单类分类；分类器多样性；集成修剪；集成学习 中图分类号： TP181 文章标识码：A 文章编号：1009-5896(2015)02-0386-08 DOI: 10.11999/JEIT140161 Ensemble One-class Classifiers Based on Hybrid Diversity Generation and Pruning Liu Jia-chen Miao Qi-guang Cao Ying Song Jian-feng Quan Yi-ning (School of Computer Science and Technology, Xidian University, Xi’an 710071, China) Abstract: Combining one-class classifiers using the classical ensemble methods is not satisfactory. To address this problem, this paper first proves that though one-class classification performance can be improved by a classifier ensemble, it can also degrade if the set of base classifiers are not selected carefully. On this basis, this study further analyzes that the lacking of diversity heavily accounts for performance degradation. Therefore, a hybrid method for generating diverse base classifiers is proposed. Secondly, in the combining phase, to find the most useful diversity, the one-class ensemble loss is split and analyzed theoretically to propose a