第10章：集成学习.pdf

第10章：集成学习 本章内容 一、集成学习基础知识 二、集成学习常用方法 三、集成学习结合策略 一、集成学习基础知识  集成学习(ensemble learning)通过构建并结合多个学 习器来完成学习任务。  有时也被称为多分类器系统(multi-classifier system) 、 基于委员会的学习(committee-based learning) 等。  集成学习先产生一组“个体学习器”(individual learner) ，再用某种策略将它们结合起来。  集成学习分同质集成和异质集成。同质集成中的个 体学习器由相同的学习算法生成，个体学习器称为 基学习器；异质集成中的个体学习器由不同的学习 算法生成，个体学习器称为组件学习器。 一、集成学习基础知识  集成学习要显著优于单一个体学习器必须满足两个 必要条件：1）个体学习器之间应该是相互独立的； 2）个体学习器应当好于随机猜测学习器。  满足第2个条件往往比较容易，因为在现实任务中，出于种 种考虑，比如希望使用较少的个体学习器，或者是希望重 用关于常见学习器的一些经验等，人们往往会使用比较强 的个体学习器。  满足第1个条件