使用XGBOOST进行机器学习实验报告.pptxVIP

使用 XGBOOST 进行大数据机器学习 OUTLINE：1.BOOSTING方法的起源，背景与当前发展状况。2.XGBOOST的介绍3.在WINDOWS下安装与配置XGBOOST。4.设计实验，并使用XGBOOST进行实验。5.实验核心代码。6.总结与分析。杜帅剑郭振强于海涛1.BOOSTING方法的起源，背景与当前发展状况。Boosting方法来源于两位科学家对强可学习和弱可学习的研究（弱分类器是指分类结果仅仅比随机猜测略好的方法），之后有人证明两种分类器是等价的，也就是说弱可学习算法可以被提升为强可学习算法。Boosting就是一种提升任意给定学习算法分类准确度的方法，大多提升方法都是改变训练数据的概率分布，针对不同分布来调用弱学习算法学习一系列弱分类器，组合成为 一个强分类器，这种思想被称为ensemble。Adaboost是Boosting方法的第一种实用的实现，在实践中也得到了广泛的使用，它在训练过程中生成成百上千个分类性能较弱的树在,生成每一棵树的时候采用梯度下降的思想，以之前生成的所有树为基础，向着最小化给定目标函数的方向多走一步。在合理的参数 设置下，我们往往要生成一定数量的树才能达到令人满意的准确率。在数据集较大较复杂的时候，我们可能需要几千次迭代运算，耗时比较高。2.XGBOOST的介绍XGBoost 算法可以有效的解决这个问题，相对于 Adaboost，XG