决策树1学习课件.pptxVIP

决策树学习算法概要;简介;1.决策树算法的框架(1/5);决策树

通过把实例从根节点排列到某个叶子节点来分类实例。

叶子节点即为实例所属的分类

每个节点说明了对实例的某个属性的测试

节点的每个后继分支对应于该属性的一个可能值

正实例：产生正值决策的实例

负实例：产生负值决策的实例;1.决策树算法的框架(3/5);决策树代表实例属性值约束的合取的析取式(析取范式)。从树根到树叶的每一条路径对应一组属性测试的合取，树本身对应这些合取的析取;1.决策树算法的框架(5/5);2.决策树学习的适用问题(1/2);问题举例

根据疾病分类患者

根据起因分类设备故障

根据拖欠支付的可能性分类贷款申请

分类问题

核心任务是把样例分类到各可能的离散值对应的类别;3.基本的决策树学习算法;CLS学习算法;CLS算法描述;例1：鸟是否能飞的实例;属性表:

{No.ofwings，

Brokenwings，

Livingstatus，

wingarea/weight}

各属性的取值域分别为：

ValueType(No.ofwings)={0,1,2}

ValueType(Brokenwings)={0,1,2}

ValueType(Livingstatus)={alive,dead}

ValueType(wingarea/weight)

;No.ofwings;ID3算法;;信息熵(InformationEntropy);熵(Entropy);信息论;;;属性选择;例1：p1=p2=1/2

H1=-(1/2)*log2(1/2)-(1/2)*log2(1/2)=1

例2：p1=1/4p2=3/4

H2=-(1/4)*log2(1/4)-(3/4)*log2(3/4)=0.81

例3：p1=1p2=0

H3=-1*log21=0;属性选择;;最佳分类属性;ID3算法;ID3主算法流程图;例2.;DecisionTree(结果输出);用信息增益度量期望熵最低;举例;;;用ID3算法得到的有关气候的决策树;;;;ID3算法的优缺点;C4.5;决策树学习中的假设空间搜索;决策树学习的常见问题(1);解决方法;决策树学习的常见问题（2）;决策树学习的常见问题（3）;决策树的优点;不足之处;9、春去春又回，新桃换旧符。在那桃花盛开的地方，在这醉人芬芳的季节，愿你生活像春天一样阳光，心情像桃花一样美丽，日子像桃子一样甜蜜。6月-206月-20Wednesday,June10,2020

10、人的志向通常和他们的能力成正比例。19:35:4319:35:4319:356/10/20207:35:43PM

11、夫学须志也，才须学也，非学无以广才，非志无以成学。6月-2019:35:4319:35Jun-2010-Jun-20

12、越是无能的人，越喜欢挑剔别人的错儿。19:35:4319:35:4319:35Wednesday,June10,2020

13、志不立，天下无可成之事。6月-206月-2019:35:4319:35:43June10,2020

14、ThankyouverymuchfortakingmewithyouonthatsplendidoutingtoLondon.ItwasthefirsttimethatIhadseentheToweroranyoftheotherfamoussights.IfIdgonealone,Icouldnthaveseennearlyasmuch,becauseIwouldnthaveknownmywayabout.

。10六月20207:35:43下午19:35:436月-20

15、会当凌绝顶，一览众山小。六月207:35下午6月-2019:35June10,2020

16、如果一个人不知道他要驶向哪头，那么任何风都不是顺风。2020/6/1019:35:4319:35:4310June2020

17、一个人如果不到最高峰，他就没有片刻的安宁，他也就不会感到生命的恬静和光荣。7:35:43下午7:35下午19:35:436月-20