Python工程应用—机器学习方法与实践第6章决策树.pptxVIP

第一章 概论西华大学机器学习第六章 决策树XXX学校XXX2022 目录Contents模型介绍鱼类和非鱼类判定贷款权限判定 知识引入3 本章知识图谱4 模型介绍一 1.1 决策树概述6 决策树是一种基本的分类和回归方法。决策树呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间和类空间上的条件概率分布。学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型。预测时，对新的数据，利用决策树模型进行分类。决策树学习通常包括三个步骤：特征选择、决策树的生成和决策树的剪枝。决策树可以看作为一个条件概率模型，因此决策树的深度就代表了模型的复杂度，决策树的生成代表了寻找局部最优模型，决策树的剪枝代表了寻找全局最优模型。1.决策树定义 分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点(node)和有向边(directed edge)组成。结点有两种类型：内部结点(internal node)和叶结点(leaf node)。内部结点表示一个特征或属性(features)，叶结点表示一个类(labels)。 1.1 决策树概述72.决策树应用场景 游戏应用，参与游戏的一方在脑海中想某个事物，其他参与者向他提问，只允许提20个问题，问题的答案也只能用对或错回答。