智能决策树算法解析与应用.pptxVIP

1;2;3;4;3、分类的程序;决议树分类的环节;例：;4、分类算法的评估;;10;信息增益;

（一）决议树的结构;/3/1;例：;（三）ID3算法(C4.5,C5.0);;/3/1;18;Example(续);Example(end)ID3算法;计数;计数;计数;计数;计数;计数;计数;计数;计数;计数;计数;计数;计数;计数;第6章决议树;ID3决议树建立算法

1决定分类属性；

2对目前的数据表，建立一种节点N

3假如数据库中的数据都属于同一种类，N就是树叶，在树叶上

标出所属的类

4假如数据表中没有其它属性能够考虑，则N也是树叶，按照少

数服从多数的标准在树叶上标出所属类别

5否则，依据平均信息期望值E或GAIN值选出一种最正确属性作

为节点N的测试属性

6节点属性选定后，对于该属性中的每个值：

从N生成一种分支，并将数据表中与该分支相关的数据搜集形

成分支节点的数据表，在表中删除节点属性那一栏

假如分支数据表非空，则利用以上算法从该节点建立子树。;（四）DecisionTree的建立过程;2、决议树的剪枝(pruning);（1）先剪枝方法;（2）后剪枝方法;应用案例：在农业中的应用;第一步：属性离散化;第二步：概化（泛化）;第三步：计算各属性的期望信息;计算各属性的信息增益;第四步：决议树;案例2：银行违约率;;案例