ID决策树.ppt

* * * * * * * * * * * * * * * * * * 《医药信息分析与应用》课程组 3.决策树建立步骤 平均信息期望（加权总和）： E(学生）= 0.3333 * 0 + 0.6667 * 0 = 0 Gain(学生) = I(128, 256) - E(学生)=0.9183 – 0 = 0.9183 结论: 不需要考虑属性信誉，决定选择属性学生 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 64 低 是 良 买 64 中 是 优 买 青年组数据表分析： 2. 假定选择学生作节点 I(128,256) = 0.9183 I(128,0)=0 比例: 128/384=0.3333 I(0,256)=0 比例: 256/384=0.6667 计数 收入 学生 信誉 归类：买计算机？ 64 高 否 良 不买 64 高 否 优 不买 128 中 否 良 不买 计数 收入 学生 信誉 归类：买计算机？ 64 低 是 良 买 64 中 是 优 买 * * 《医药信息分析与应用》课程组 3.决策树建立步骤 年龄 计数 收入 信誉 归类：买计算机？ 64 低 良 买 64 中 优 买 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 青 中 老 买 学生 计数 收入 信誉 归类：买计算机？ 64 高 良 不买 64 高 优 不买 128 中 良 不买 否 是 树叶 * * 《医药信息分析与应用》课程组 3.决策树建立步骤 年龄 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 青 中 老 买 学生 否 是 买 不买 * * 《医药信息分析与应用》课程组 3.决策树建立步骤 平均信息期望（加权总和）： E(收入）= 0.3333 * 1 + 0.6667 * 0.8050 = 0.8700 Gain(收入) = I(257, 127) - E(收入)=0.9157 – 0.8700 = 0.0457 老年组数据表分析： 1. 假定选择收入作节点 I(257,127) = 0.9157 I(64,64)=1 比例: 128/384=0.3333 I(193,63)=0.8050 比例: 256/384=0.6667 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 计数 收入 学生 信誉 归类：买计算机？ 64 低 是 良 买 64 低 是 优 不买 * * 《医药信息分析与应用》课程组 3.决策树建立步骤 平均信息期望（加权总和）： E(学生）= 0.6771 * 0.8051 + 0.3229 * 0.9998 = 0.8680 Gain(学生) = I(257, 127) - E(学生)=0.9157 – 0.8680= 0.0477 老年组数据表分析： 2. 假定选择学生作节点 I(257,127) = 0.9157 I(196,64)=0.8051 比例: 260/384=0.6771 I(61,63)=0.9998 比例: 124/384=0.3229 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 63 中 否 优 不买 1 中 否 优 买 计数 收入 学生 信誉 归类：买计算机？ 60 中 否 良 买 63 中 否 优 不买 1 中 否 优 买 计数 收入 学生 信誉 归类：买计算机？ 64 低 是 良 买 64 低 是 优 不买 132 中 是 良 买 * * 《医药信息分析与应用》课程组 3.决策树建立步骤 平均信息期望（加权总和）： E(信誉）= 0.6667 * 0 + 0.3333 * 0.0659 = 0.0220 Gain(信誉) = I(257, 127) - E(信誉)=0.9157 – 0.0220 = 0.