- 1、本文档共16页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
决策树方法应用实例决策树方法应用实例
例:构造决策树。 下表给出了取自AllElectronics顾客数据库元组训练集。 编号 年龄 收入 学生 信用等级 类别:购买电脑 1 =30 高 否 一般 不会购买 2 =30 高 否 良好 不会购买 3 31…40 高 否 一般 会购买 4 40 中等 否 一般 会购买 5 40 低 是 一般 会购买 6 40 低 是 良好 不会购买 7 31…40 低 是 良好 会购买 8 =30 中等 否 一般 不会购买 9 =30 低 是 一般 会购买 10 40 中等 是 一般 会购买 11 =30 中等 是 良好 会购买 12 31…40 中等 否 良好 会购买 13 31…40 高 是 一般 会购买 14 40 中等 否 良好 不会购买 解:由题意可知: s=14,类标号属性“购买电脑”有两个不同值(即{会购买,不会购买}),因此有两个不同的类(即m=2)。设类C1对应于“会购买”,类C2对应于“不会购买”。则s1=9,s2=5,p1=9/14,p2=5/14。 ①计算对给定样本分类所需的期望信息: ②计算每个属性的熵。 先计算属性“年龄”的熵。 对于年龄=“=30”:s11=2,s21=3,p11=2/5,p21=3/5, 对于年龄=“31…40”: s12=4,s22=0,p12=4/4=1,p22=0, 对于年龄=“40”:s13=3,s23=2,p13=3/5,p23=2/5, 如果样本按“年龄”划分,对一个给定的样本分类所需的期望信息为: 因此,这种划分的信息增益是 Gain(年龄)=I(s1,s2) - E(年龄)=0.246。 计算“收入”的熵。 对于收入=“高”: s11=2,s21=2,p11=0.5,p21=0.5, 对于收入=“中等”: s12=4,s22=2,p12=4/6,p22=2/4, 对于收入=“低”: s13=3,s23=1,p13=3/4,p23=1/4, 如果样本按“收入”划分,对一个给定的样本分类所需的期望信息为: 因此,这种划分的信息增益是 Gain(收入)=I(s1,s2) - E(收入)=0.940-0.911=0.029。 计算“学生”的熵。 对于学生=“是”:s11=6,s21=1,p11=6/7,p21=1/7, 对于学生=“否”: s12=3,s22=4,p12=3/7,p22=4/7, 如果样本按“学生”划分,对一个给定的样本分类所需的期望信息为: 因此,这种划分的信息增益是 Gain(学生)=I(s1,s2) - E(学生)=0.940-0.789=0.151。 计算“信用等级”的熵。 对于信用等级=“一般”: s11=6,s21=2,p11=6/8,p21=2/8, 对于信用等级=“良好”: s12=3,s22=3,p12=3/6,p22=3/6, 如果样本按“信用等级”划分,对一个给定的样本分类所需的期望信息为: 因此,这种划分的信息增益是 Gain(信用等级)=I(s1,s2) - E(信用等级)=0.940-0.892=0.048。 由于 “年龄” 属性具有最高信息增益,它被选作测试属性。创建一个节点,用“年龄”标记,并对每个属性值引出一个分支。样本据此划分,如图所示。 收入 学生 信用等级 类 高 否 一般 会购买 低 是 良好 会购买 中等 否 良好 会购买 高 是 一般 会购买 收入 学生 信用等级 类 高 否 一般 不会购买 高 否 良好 不会购买 中等 否 一般 不会购买 低 是 一般 会购买 中等 是 良好 会购买 收入 学生 信用等级 类 中等 否 一般 会购买 低 是 一般 会购买 低 是 良好 不会购买 中等 是 一般 会购买 中等 否 良好 不会购买 =30 31…40 40 年 龄 收入 学生 信用等级 类 高 否 一般 不会购买 高 否 良好 不会购买 中等 否 一般 不会购买 低 是 一般 会购买 中等 是 良好 会购买 表1 年龄=30 当年龄=30时,对应于表1。S=5,设类C1对应于“会购买”,类C2对应于“不会购买”。则s1=2,s2=3,p1=2/5,p2=3/5
您可能关注的文档
- 人教版八年级上册语文期末复习之古诗文默写题精选及专题默写复习卷(含答案).doc
- 人教版八年级下册文言文课下注释.doc
- 人教版八年级全年级英语词组大全.doc
- 人教版八年级上册语文第四课就英法联军远征中国给巴特勒上尉的信.ppt
- 人教版八年级历史上册第四单元复习课件.ppt
- 人教版八年级政治下册第八课:消费者的权益教案11.doc
- 人教版八年级历史上册第六课.ppt
- 人教版五年级语文下册《威尼斯的小艇》第二课时.ppt
- 人教版公开课《落花生》ppt课件4.ppt
- 人教版六年级数学上册93页用百分数解决问题(例3).ppt
- 第十一章 电流和电路专题特训二 实物图与电路图的互画 教学设计 2024-2025学年鲁科版物理九年级上册.docx
- 人教版七年级上册信息技术6.3加工音频素材 教学设计.docx
- 5.1自然地理环境的整体性 说课教案 (1).docx
- 4.1 夯实法治基础 教学设计-2023-2024学年统编版九年级道德与法治上册.docx
- 3.1 光的色彩 颜色 电子教案 2023-2024学年苏科版为了八年级上学期.docx
- 小学体育与健康 四年级下册健康教育 教案.docx
- 2024-2025学年初中数学九年级下册北京课改版(2024)教学设计合集.docx
- 2024-2025学年初中科学七年级下册浙教版(2024)教学设计合集.docx
- 2024-2025学年小学信息技术(信息科技)六年级下册浙摄影版(2013)教学设计合集.docx
- 2024-2025学年小学美术二年级下册人美版(常锐伦、欧京海)教学设计合集.docx
文档评论(0)