决策树和模型评估课程.pptVIP

Data Mining 第四章;4.1 预备知识4.2 解决分类问题的一般方法;分类例子;分类：定义;分类过程;分类技术;决策树定义;决策树 例1;决策树 例2;决策树应用过程：使用模型测试数据－1;使用模型测试数据－2;使用模型测试数据－3;使用模型测试数据－4;使用模型测试数据－5;使用模型测试数据－6;决策树构造算法;Hunt 算法结构;例 P93～P95 预测拖欠银行贷款的贷款者;如何生成决策树？;决策树归纳的设计问题1：1.1 定义属性测试条件;标称属性的划分方法：(数据集见P122习题2);多路划分法 二分法（分组必须保留属性值之间的序关系） 注意：第三种划分方法合理吗?;连续属性的划分方法;决策树归纳的设计问题1：1.2 找到最好划分方法;选择最佳划分的度量;结点不纯度的度量方法：;计算不纯性方法1: 熵;例：分别计算3个结点的熵;练习1;计算不纯性方法2: 基尼指数（gini）;例：分别计算3个结点的Gini指数;练习2;计算不纯性方法3:分类差错率;例：分别计算3个子女结点的分类差错率;练习3;二元分类问题结点不纯性度量之间的比较：;利用不纯性度量，选择最佳划分;利用增益Δ来选择最佳划分示意：;练习4;;改进方法;;比较不同类型的属性的划分（以Gini指数为例）;基于GINI指数的二元属性划分方法;基于GINI指数的标称属性划分方法;基于GINI指数的