机器学习与数据挖掘实验-决策树.pdfVIP

  1. 1、本文档共45页,可阅读全部内容。
  2. 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
  3. 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  4. 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  5. 5、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  6. 6、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  7. 7、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  8. 8、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

机器学习与数据挖掘实验-决策树--第1页

计算机

科学与年级/专

学院姓名学号

网络工业/班

程学院

实验课

机器学习与数据挖掘实验成绩

程名称

实验项指导老

实验二决策树

目名称师

实验二决策树

一、实验目的

本实验课程是计算机、智能、物联网等专业学生的一门专业课程,

通过实验,帮助学生更好地掌握数据挖掘相关概念、技术、原理、应

用等;通过实验提高学生编写实验报告、总结实验结果的能力;使学

生对机器学习算法、数据挖掘实现等有比较深入的认识。

1.掌握机器学习中涉及的相关概念、算法。

2.熟悉数据挖掘中的具体编程方法;

3.掌握问题表示、求解及编程实现。

二、基本要求

1.实验前,复习《机器学习与数据挖掘》课程中的有关内容。

2.准备好实验数据。

3.编程要独立完成,程序应加适当的注释。

4.完成实验报告。

机器学习与数据挖掘实验-决策树--第1页

机器学习与数据挖掘实验-决策树--第2页

三、实验软件

使用Python语言实现。

四、实验内容:

表4.1的西瓜数据集包括17个训练样例,请学习一个决策树,用于

预测一个西瓜是不是好瓜。具体要求如下:

(1)在生成决策树的过程中,请分别使用ID3算法、C4.5算法、CART

算法,并对比三个算法结果。其中,

ID3算法在生成决策树的各结点使用信息增益准则进行特征选择;

C4.5算法在生成决策树的过程使用信息增益比进行特征选择;

CART算法假设决策树是一个二叉树,通过递归地二分每个特征,将

特征空间划分为有限个单元,并在这些单元上确定预测的概率分布。

(2)请自己写程序实现决策树的生成过程,不要直接调用决策树算

法包。

机器学习与数据挖掘实验-决策树--第2页

机器学习与数据挖掘实验-决策树--第3页

五、实验具体实现

算法理论知识

决策树的具体流程:

(1)创建数据集

(2)计算数据集的信息熵

(3)遍历所有的特征,选择信息熵最小的特征,即为最好的分类特征

(4)根据上一步得到的分类特征分割数据集,并将该特征从列表中移除

(5)使用决策树执行分类,返回分类结果

学习的伪代码:

Iif每个子项属于同一个类,return类标签

IIelse

(1)寻找划分数据集的最好特征

(2)划分数据集

(3)创建分支结点

①for每个划分的子集

②调用分支创建函数并增加返回结果到分支结点中

机器学习与数据挖掘实验-决策树--第3页

机器学习与数据挖掘实验-决策树--第4页

(4)返回分支结点

ID3

文档评论(0)

158****0540 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档