- 1、本文档共14页,可阅读全部内容。
- 2、原创力文档(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
- 3、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
查看更多
机器学习算法 day04_决策树分类算法及应用
课程大纲
决策树分类算法原理 决策树算法概述
决策树算法思想
决策树构造
算法要点
决策树分类算法案例 案例需求
Python 实现
决策树的持久化保存
课程目标:
1、理解决策树算法的核心思想
2、理解决策树算法的代码实现
3、掌握决策树算法的应用步骤:数据处理、建模、运算和结果判定
1. 决策树分类算法原理
1.1 概述
决策树( decision tree )—— 是一种被广泛使用的分类算法。
相比贝叶斯算法,决策树的优势在于构造过程不需要任何领域知识或参数设置
在实际应用中, 对于探测式的知识发现,决策树更加适用
1.2 算法思想
通俗来说,决策树分类的思想类似于找对象。现想象一个女孩的母亲要给这个女孩介绍男
朋友,于是有了下面的对话:
女儿:多大年纪了?
母亲: 26 。
女儿:长的帅不帅?
母亲:挺帅的。
女儿:收入高不?
母亲:不算很高,中等情况。
女儿:是公务员不?
母亲:是,在税务局上班呢。
女儿:那好,我去见见。
这个女孩的决策过程就是典型的分类树决策。
实质:通过年龄、长相、收入和是否公务员对将男人分为两个类别:见和不见
假设这个女孩对男人的要求是: 30 岁以下、长相中等以上并且是高收入者或中等以上收入
的公务员,那么这个可以用下图表示女孩的决策逻辑
上图完整表达了这个女孩决定是否见一个约会对象的策略,其中:
绿色节点表示判断条件
橙色节点表示决策结果
箭头表示在一个判断条件在不同情况下的决策路径
图中红色箭头表示了上面例子中女孩的决策过程。
这幅图基本可以算是一颗决策树,说它 “基本可以算 ”是因为图中的判定条件没有量化,
如收入高中低等等,还不能算是严格意义上的决策树,如果将所有条件量化,则就变成真
正的决策树了。
决策树分类算法的关键就是根据 “先验数据 ”构造一棵最佳的决策树,用以预测未知数据
的类别
决策树: 是一个树结构(可以是二叉树或非二叉树)。其每个非叶节点表示一个特征属性
上的测试,每个分支代表这个特征属性在某个值域上的输出,而每个叶节点存放一个类别。
使用决策树进行决策的过程就是从根节点开始,测试待分类项中相应的特征属性,并按照
其值选择输出分支,直到到达叶子节点,将叶子节点存放的类别作为决策结果。
1.3 决策树构造
1.3.1 决策树构造样例
假如有以下判断苹果好坏的数据样本:
样本 红 大 好苹果
0 1 1 1
1 1 0 1
2 0 1 0
3 0 0 0
样本中有 2 个属性, A0 表示是否红苹果。 A1 表示是否大苹果。假如要根据这个数据样本
构建一棵自动判断苹果好坏的决策树。
由于本例中的数据只有 2 个属性,因此,我们可以穷举所有可能构造出来的决策树,就 2
棵,如下图所示:
Comment [dht1]: 此处是决策树分类
算法的核心理论基础 —— 信息熵!
有一定抽象度
显然左
您可能关注的文档
- 内科学笔记--呼吸系统.pdf
- 内科实习生自我鉴定范文.pdf
- 内科护士工作心得体会范文2018.pdf
- 内科护士自我鉴定.pdf
- 内科护理自我鉴定100字.pdf
- 内蒙古康巴什热电厂2×350MW空冷机组工程2号机组炉前系统与锅炉本体化学清洗调试措施.pdf
- 内贸流通与市场监测情况汇报材料.pdf
- 写事作文400字大全15篇.pdf
- 写作教程(一)unit1答案.pdf
- 写作陪我成长.pdf
- 幼儿教师资格证(考试资料)《幼儿保健知识与能力》新版初级练习卷有答案与.docx
- (附答案)川农12月《中药化学》作业考核-.docx
- (附答案)川农12月《园林植物保护学(本科)》作业考核-.docx
- (附答案)川农12月《有机化学(专科)》作业考核-.docx
- (附答案)川农12月《植物保护学(本科)》作业考核-.docx
- (附答案)东师《教育心理学》在线作业2-1(1).docx
- (附答案)川农12月《药剂学》作业考核-.docx
- (附答案)川农12月《配方饲料制造工艺与技术(专科)》作业考核-.docx
- 幼儿教师资格证(考试资料)《幼儿保健知识与能力》新版基础知识题库带解析.docx
- 幼儿教师资格证(考试资料)《幼儿保健知识与能力》基础知识模拟押题卷.docx
文档评论(0)