第5章数据分类概要.ppt

* * * * * * * * * * Data Mining Tool - Decision Tree, Jiahuang Ji, Ph.D. All Rights Reserved * 1. 假定选择信誉作树根节点，则： 良好组: I(480,192)=0.8631 优秀组: I(161,191)=0.9948 2. 良好组比例: 672/1024=0.6563 优秀组比例: 352/1024=0.3437 3. 平均信息期望（加权总和）： E(信誉）= 0.6563 * 0.8631 + 0.3437 * 0.9948 = 0.9048 4. Gain(信誉) = I(641, 383)-E(信誉) =0.9537 – 0.9048= 0.0453 计数 年龄 收入 学生 信誉 归类：买计算机？ 64 青 高 否 优 不买 64 老 低 是 优 不买 64 中 低 是 优 买 64 青 中 是 优 买 32 中 中 否 优 买 63 老 中 否 优 不买 1 老 中 否 优 买 计数 年龄 收入 学生 信誉 归类：买计算机？ 64 青 高 否 良 不买 128 中 高 否 良 买 60 老 中 否 良 买 64 老 低 是 良 买 128 青 中 否 良 不买 64 青 低 是 良 买 132 老 中 是 良 买 32 中 高 是 良 买 决策树的建立-- 对测试样例的信息期望 * Data Mining Tool - Decision Tree, Jiahuang Ji, Ph.D. All Rights Reserved * 决定树根节点 E(年龄）= 0.6877， Gain(年龄) = 0.2660 E(收入）= 0.9361，Gain(收入) = 0.0176 E(学生）= 0.7811，Gain(学生) = 0.1726 E(信誉）= 0.9048，Gain(信誉) = 0.0453 决策树的建立-- 对测试样例的信息期望 * Data Mining Tool - Decision Tree, Jiahuang Ji, Ph.D. All Rights Reserved * 年龄 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 64 低 是 良 买 64 中 是 优 买 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 青 中 老 树叶 计数 收入 学生 信誉 归类：买计算机？ 128 高 否 良 买 64 低 是 优 买 32 中 否 优 买 32 高 是 良 买 决策树的建立-- 对测试样例的信息期望 * Data Mining Tool - Decision Tree, Jiahuang Ji, Ph.D. All Rights Reserved * 年龄 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 64 低 是 良 买 64 中 是 优 买 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 青 中 老 买 决策树的建立-- 对测试样例的信息期望 * Data Mining Tool - Decision Tree, Jiahuang Ji, Ph.D. All Rights Reserved * 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 64 低 是 良 买 64 中 是 优 买 平均信息期望（加权总和）： E(收入）= 0.3333 * 0 + 0.5 * 0.9183 + 0.1667 * 0 = 0.4592 Gain(收入) = I(128, 256) - E(收入)=0.9183 – 0.4592 = 0.4591 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 计数 收入 学生 信誉 归类：买计算机？ 128 中 否 良 不买 64 中 是 优 买 计数 收入 学生 信誉 归类：买计算机？ 64 低 是 良 买 青年组数据表分析： 1. 假定选择收入作节点 I(128,256) = 0.9183 I(0,