基于成对差异性度量的选择性集成方法-模式识别与人工智能.pdfVIP

第 23卷 第 4期 模式识别与人工智能 V01．23 No．4 2010年 8月 PR AI Aug 2010 基于成对差异性度量的选择性集成方法 杨长盛 陶 亮 曹振田 汪世义 (安徽大学 计算智能与信号处理教育部重点实验室 合肥 230039) 摘 要 有效地产生泛化能力强、差异大的个体学习器，是集成学习算法的关键．为了提高学习器的差异性和精 度，文中提出一种基于成对差异性度量的选择性集成方法．同时研究一种改进方法，进一步提高方法的运算速度， 且支持并行计算．最后通过使用 BP神经网络作为基学习器，在UCI数据集上进行实验，并与Bagging、基于遗传算 法的选择性集成(GASEN)算法进行比较．实验结果表明，该改进算法在性能上与GASEN算法相近的前提下，训练 速度得到大幅提高． 关键词 集成学习，选择性集成，差异性，成对差异性度量，并行计算 中图法分类号 TP181 PairwiseDiversityM easuresBasedSelectiveEnsembleM ethod YANG Chang—Sheng，TAO Liang，CAO Zhen—Tian，WANG Shi-Yi KeyLaboratoryojIntelligentComputingandSignalProcessing对Ministry0jEducation。 AnhuiUnive~ity，Hefei230039) ABSTRACT Effectivegeneratingindividuallearnerswithstronggeneralizationabilityandgreatdiversityisthekey issueofensemblelearning．Toimprovediversityandaccuracyoflearners，PairwiseDiversityMeasures basedSelectiveEnsemble(PDMSEN)isproposedinthispaper．Furthermore，animprovedmethodis studiedtoadvancethespeedofthealgorithm andsuppo~parallelcomputing．Finally，throughapplying BPneuralnetworksasbase learners，theexperimentiscarriedouton selectedUCIdatabaseandthe improvedalgorithmiscomparedwithBaggingandGASEN (GeneticAlgorithmbasedSelectedEnsemble) algorithms．Experimental resultsdemonstratethatthelearningspeedoftheproposedalgorithm issuperior tothatoftheGASEN algorithm withthesamelearningperfomr ance． KeyW ords EnsembleLearning，SelectiveEnsemble，Diversity，PairwiseDiversityMeasures，Parallel Computing 国家 自然科学基金 (No、安徽省人才发展基金 (No．2005Z029)资助项 目 收稿 日期 ：2009—04—22；修回日期 ：2009—09—18 作者简介 杨长盛，男，1989年生，硕士研究生，主要研究方向为模式识别、机器学习、图像处理．E-mail：changsheng一100@ yahoo．corn．cn．陶亮，男，1963年生，教授 ，博士生导师，主要研究方向为数字信号与图像处