第3章 分类.pdf

第3章分类 3.1 分类与预测 分类: 预测分类标号 预测: 建立连续值函数模型 典型应用 数据分类—一个两步过程 模型建立: 描述预定的数据类集 模型使用:为了将来或未知的对象分类 分类过程(1):模型建立 分类算法 训练数据 NAME RANK YEARS TENURED 分类规则 Mike Assistant Prof 3 no Mary Assistant Prof 7 yes Bill Professor 2 yes Jim Associate Prof 7 yes IF rank = ‘professor’ Dave Assistant Prof 6 no OR years 6 Anne Associate Prof 3 no THEN tenured = ‘yes’ (2): 模型 分类规则 测试数据 新数据 (Jeff, Professor, 4) NAME RANK YEARS TENURED Tom Assistant Prof 2 no Tenured? Merlisa Associate Prof 7 no George Professor 5 yes Joseph Assistant Prof 7 yes 分类和预测的问题(1): 数据准备 数据清理 相关性分析 数据变换 分类和预测的问题(2):比较分类方法 预测的准确率 速度 强壮性 可伸缩性 可解释性 3.2 用判定树分类 判定树 一个类似流程图的树结构 每个内部节点表示在一个属性上的测试 每个分支代表一个测试输出 每个树叶节点代表类或类分布 判定树的产生包含两个方面 树的构造 树的剪枝 判定树的使用: 对未知样本分类 样本的属性值在判定树上测试 输出: 概念“buys_computer” 的判定树 age? =30 30..40 overcast 40 student? yes credit rating? no yes excellent fair no yes no yes 判定树归纳算法 基本算法(贪心算法) 自顶向下递归的各个击破方式构造判定树