决策树与模型评价基本概念.pptxVIP

数据挖掘 分类：基本概念、决策树与模型评价; 分类的是利用一个分类函数（分类模型、分类器），该模型能把数据库中的数据影射到给定类别中的一个。 ;分类;;数据分类——一个两步过程 (1);数据分类——一个两步过程 (2);有监督的学习 VS. 无监督的学习;分类模型的构造方法;一个决策树的例子;决策树的另一个例子;用决策树归纳分类; 为了对未知数据对象进行分类识别，可以根据决策树的结构对数据集中的属性进行测试，从决策树的根节点到叶节点的一条路径就形成了相应对象的类别测试。决策树可以很容易转换为分类规则 ;决策树分类任务;一个决策树的例子;应用决策树进行分类;应用决策树进行分类;应用决策树进行分类;应用决策树进行分类;应用决策树进行分类;应用决策树进行分类;决策树分类;决策树;Hunt 算法;Hunt算法;决策树;决策树;怎样为不同类型的属性指定测试条件?;基于标称属性的分裂;多路划分: 划分数（输出数）取决于该属性不同属性值的个数. 二元划分: 划分数为2，需要保持序数属性值的有序性. ;基于连续属性的划分;基于连续属性的划分;决策树;怎样选择最佳划分？;怎样选择最佳划分？;怎样找到最佳划分？;结点不纯性的测量;不纯性的测量: GINI;计算 GINI的例子;基于 GINI的划分;二元属性: 计算 GINI;标称属性:计算Gini;连续属性: 计算 Gini;连续属性: 计算 Gini...; ;熵---定义;;基于 Information Gain的划分;计算 Entropy的例子;基于 Information Gain的划分...;基于 Information Gain的划分...;基于 Classification Error的划分;例子;不纯性度量之间的比较;决策树;停止分裂过程;;三种著名的决策树;决策树;子树重复问题;决策边界;斜决策树;模型过分拟合和拟合不足;模型过分拟合和拟合不足;模型模型过分拟合和拟合不足;导致过分拟合的原因;导致过分拟合的原因;噪声导致的过分拟合（例子）;缺乏代表性样本导致的过分拟合;;;过分拟合与多重比较;;泛化误差估计;;结合模型复杂度;悲观误差评估;;;最小描述长度 (MDL);使用确认集;处理决策树中的过分拟合;处理决策树中的过分拟合…;处理决策树中的过分拟合…;不平衡类问题;准确率的缺点;度量;;ROC (Receiver Operating Characteristic);??用ROC曲线比较模型;怎样产生ROC曲线