Python工程应用—机器学习方法与实践第7章随机森林.pptxVIP

第一章 概论西华大学机器学习第七章 随机森林XXX学校XXX2022 目录Contents模型介绍声呐信号分类泰坦尼克号幸存者预测 知识引入3 在小明做计划的过程中，每个人给小明的建议都可以看成一棵决策树，而整个过程则类似我们本章将要介绍的随机森林。 随机森林指的是利用多棵树对样本进行训练并预测的一种分类器。上一章介绍的决策树相当于一个大师，通过自己在数据集中学到的知识用于新数据的分类。但是俗话“三个臭皮匠，顶个诸葛亮”，随机森林就是构建多个“臭皮匠”，希望最终的分类效果能够超过一个“诸葛亮”的一种算法。本章将针对随机森林的原理以及应用进行介绍。 本章知识图谱4 模型介绍一 1 模型介绍6 随机森林是一种集成学习的算法。所谓的集成学习，就是指使用一系列学习器进行学习，并使用某种规则把各个学习结果进行整合从而获得比单个学习器更好的学习效果的一种机器学习方法。 1.1 随机森林的历史7上世纪八十年代出现了分类树的算法，通过反复二分数据进行分类或回归。2001年Breiman等人把分类树组合成随机森林，即在特征变量的使用和样本数据的使用上进行随机化，生成很多分类树，再将各分类树的结果进行汇总，通过集成策略得到最终结果。随机森林在运算量没有显著提高的前提下提高了预测精度，且对多元共线性(multicollinearity)不敏感，结果对缺失数据和