adaboost算法.ppt

Back to school Thank you! Thank you! Back to school Back to school Back to school Back to school Back to school Back to school Back to school Back to school Back to school Back to school Adaboost Adaboost 算法  算法分析 算法步骤 训练过程 举例说明 算法介绍 Adaboost 算法介绍  分类器： 1、监督式分类器 线性分类器 感知器，最小平方误差判别分析 线性支持向量机 非线性分类器 多层感知器神经网络 非线性支持向量机，核函数机器 非数值方法——决策树 Adaboost 2、非监督式分类器 Adaboost 算法介绍  Bagging技术和boosting技术都通过将T个学习得到的分类法C1,C2…CT组合起来，从而创造一个改进的分类法C* Bagging技术： 对训练集S进行T次迭代，每次通过放回取样选取样本集St，通过学习St得到分类法Ct 对于未知样本X，每个分类法返回其类预测，作为一票 C*统计得票，并将得票最高的预测赋予X Boosting技术： 每个训练样本赋予一个权值 Ct的权值取决于其错误率 Idea AdaBoost (Adaptive Boosting, R.Scharpire, Y.Freund, ICML, 1996) Adaboost是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器（弱分类器），然后把这些弱分类器集合起来，构成一个更强的最终分类器（强分类器）。 Adaboost 算法介绍 Back to school Adaboost 算法介绍 Idea AdaBoost (Adaptive Boosting, R.Scharpire, Y.Freund, ICML, 1996) Adaboost算法本身是通过改变数据分布来实现的，它根据每次训练集之中每个样本的分类是否正确，以及上次的总体分类的准确率，来确定每个样本的权值。将修改过权值的新数据集送给下层分类器进行训练，最后将每次得到的分类器最后融合起来，作为最后的决策分类器。 Back to school Adaboost 算法介绍 目前，对Adaboost算法的研究以及应用大多集中于分类问题，同时近年也出现了一些在回归问题上的应用。 就其应用adaboost系列主要解决了：两类问题、多类单标签问题、多类多标签问题、大类单标签问题，回归问题。 它用全部的训练样本进行学习。 使用adaboost分类器可以排除一些不必要的训练数据特征，并将关键放在关键的训练数据上面。 Back to school Adaboost 算法分析 该算法其实是一个简单的弱分类算法提升过程，这个过程通过不断的训练，可以提高对数据的分类能力。 1、先通过对N个训练样本的学习得到第一个弱分类器； 2、将分错的样本和其他的新数据一起构成一个新的N个的训练样本，通过对这个样本的学习得到第二个弱分类器； 3、将1和2都分错了的样本加上其他的新样本构成另一个新的N个的训练样本，通过对这个样本的学习得到第三个弱分类器 4、最终经过提升的强分类器。即某个数据被分为哪一类要通过......的多数表决。 Back to school Adaboost 算法分析 对于boosting算法，存在两个问题： 　　 1. 如何调整训练集，使得在训练集上训练的弱分类器得以进行； 　　 2. 如何将训练得到的各个弱分类器联合起来形成强分类器。 Back to school Adaboost 算法分析 针对以上两个问题，AdaBoost算法进行了调整： 1. 使用加权后选取的训练数据代替随机选取的训练样本，这样将训练的焦点集中在比较难分的训练数据样本上； 　　 2. 将弱分类器联合起来，使用加权的投票机制代替平均投票机制。让分类效果好的弱分类器具有较大的权重，而分类效果差的分类器具有较小的权重。 Back to school Adaboost 算法分析 　 AdaBoost算法是Freund和Schapire根据在线分配算法提出的，他们详细分析了AdaBoost算法错误率的上界，以及为了使强分类器达到错误率，算法所需要的最多迭代次数等相关问题。 与Boosting算法不同的是，AdaBoost算法不需要预先知道弱学习算法学习正确率的下限即弱分类器的误差，并且最后得到的强分类器的分类精度依赖于所有弱分类器的分类精度，这样可以深入挖