集成学习 boostingbagging.pptVIP

Boosting and bagging算法 1 Boosting 算法 Boosting 算法是近十年最有效的算法之一，其主要代表算法有Adaboost算法和 AdaBoost算法改进等。（记单词） AdaBoost算法基本思想： 对同一个训练集使用不同的特征训练出不同的弱分类器 ， 然后将这些弱分类器组合起来 ， 提升为一个分类能力更强的强分类器 。 算法是通过数据分布的改变来实现的，根据每次弱分类器训练集中每个样本的分类正确与否，及上次总体分类的准确率，对每个样本的权值进行调整，降低弱分类器中分类正确的样本的权值，提高弱分类器分类错误的样本的权值。修改过权值的新数据表集作为下层分类器的训练集，经过多次迭代得到相应的弱分类器，对训练得到的这些弱分类器进行融合 ， 得到最终的强分类器 。 1.1 AdaBoost系列 应用AdaBoost系列主要解决了：两类问题、多类单标签问题、多类多标签问题、大类单标签问题，回归问题。它用全部的训练样本进行学习。 注：一般无特别说明，boosting都是指AdaBoost算法 The AdaBoost算法 AdaBoost 人脸检测 AdaBoost 应用于分类 弱分类器训练图示说明 弱分类器训练 图示说明 级联 AdaBoost 离散AdaBoost-AdaBoost.M1