决策树模型QUEST - 謝邦昌教授.pptVIP

决策树模型 ----QUEST 报告人：李福娟 指导教师：谢邦昌 时间：2007年11月20日 Clementine的决策树模型 决策树(Decision Tree)模型，也称规则推理模型 通过对训练样本的学习，建立分类规则 依据分类规则，实现对新样本的分类 属于有指导(监督)式的学习方法，有两类变量： 目标变量(输出变量) 属性变量(输入变量) 决策树模型与一般统计分类模型的主要区别 决策树的分类是基于逻辑的，一般统计分类模型是基于非逻辑的 基于逻辑是指通过对属性变量值的布尔比较来实现分类判断 Clementine的决策树模型 决策树模型的特点优势： 推理过程容易理解，决策推理过程可以表示成IF、THEN的形式 推理过程完全依据属性变量的取值特点 可自动忽略对目标变量没有贡献的属性变量，也为判断属性变量的重要性，减少变量数目提供参考 Clementine的决策树模型 决策树模型的主要算法： CRT C5.0 CHAID QUEST QUEST算法 QUEST：Quick Unbiased Efficient Statistical Tree 它是 Loh和Shih1997年提出的建立决策树的一种二元分类方法。 QUEST算法也主要涉及分支变量和分割值的确定问题，但它将分支变量选择和分割点选择以不