医学数据挖掘—SQL Server 2005案例分析 教学课件 作者 周怡 王世伟 主编 医学数据挖掘第3章.pptVIP

* * * * * * * * * * * * * * * * * * * * * * * * 年龄 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 64 低 是 良 买 64 中 是 优 买 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 青 中 老 树叶 计数 收入 学生 信誉 归类：买计算机？ 128 高 否 良 买 64 低 是 优 买 32 中 否 优 买 32 高 是 良 买 3.决策树建立步骤 * * 年龄 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 64 低 是 良 买 64 中 是 优 买 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 青 中 老 买 3.决策树建立步骤 * 平均信息期望（加权总和）： E(收入）= 0.3333 * 0 + 0.5 * 0.9183 + 0.1667 * 0 = 0.4592 Gain(收入) = I(128, 256) - E(收入)=0.9183 – 0.4592 = 0.4591 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 64 低 是 良 买 64 中 是 优 买 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 计数 收入 学生 信誉 归类：买计算机？ 128 中 否 良 不买 64 中 是 优 买 计数 收入 学生 信誉 归类：买计算机？ 64 低 是 良 买 青年组数据表分析： 1. 假定选择收入作节点 I(128,256) = 0.9183 I(0,128)=0 比例: 128/384=0.3333 I(64,128)=0.9183 比例: 192/384=0.5 I(64,0)=0 比例: 64/384=0.1667 3.决策树建立步骤 * 平均信息期望（加权总和）： E(学生）= 0.3333 * 0 + 0.6667 * 0 = 0 Gain(学生) = I(128, 256) - E(学生)=0.9183 – 0 = 0.9183 结论: 不需要考虑属性信誉，决定选择属性学生 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 64 低 是 良 买 64 中 是 优 买 青年组数据表分析： 2. 假定选择学生作节点 I(128,256) = 0.9183 I(128,0)=0 比例: 128/384=0.3333 I(0,256)=0 比例: 256/384=0.6667 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 计数 收入 学生 信誉 归类：买计算机？ 64 低 是 良 买 64 中 是 优 买 3.决策树建立步骤 * 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 青 中 老 买 否 是 树叶 年龄 计数 收入 信誉 归类：买计算机？ 64 高 良 不买 64 高 优 不买 128 中 良 不买 计数 收入 信誉 归类：买计算机？ 64 低 良 买 64 中 优 买 学生 3.决策树建立步骤 * 年龄 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 青 中 老 买 否 是 买 不买 学生 3.决策树建立步骤 * 平均信息期望（加权总和）： E(收入）= 0.3333 * 1 + 0.6667 * 0.8050 = 0.8700 Gain(收入) = I(257, 127) - E(收入)=0.9157 – 0.8700