以ID3算法为例的探讨数据挖掘中决策树算法的应用.pptVIP

输入：训练样本samples, 表示有离散值属性,候选属性 的集合attribute_list 输出：一棵决策树 算法： 1.创建节点N； 2.if samples都在同一个类C then 3.返回N作为叶节点，以类C标记 4.if attribute_list为空then 5.返回N作为叶节点，标记为samples中最普遍的类 ID3算法描述 以ID3算法为例探讨数据挖掘中决策树算法的应用 主讲：郭佳 2013.11.28 决策树是一种常用于预测模型的算法，它通过将大量数据有目的分类，从中找到一些有价值的，潜在的信息。它的主要优点是描述简单，分类速度快，特别适合大规模的数据处理。最有影响和最早的决策树方法是由Quinlan在1986年提出的著名的基于信息熵的ID3算法。接下来主要介绍ID3算法。 决策树算法的概念 由ID3算法得到的决策树 决策树分类是一种从无次序、无规则的训练样本集中推理出决策树表示形式的分类规则的方法。它采用自顶向下的方法，在决策树的内部结点进行属性值的比较并根据不同的属性值判断从该结点向下的分支，在决策树的叶结点得到结论。所以从根结点到任一个叶结点所形成的一条路径就构成了一条分类规则，叶结点所标记的类别就构成了规则的结论内容。 决策树算法的概念 数据挖掘是由可以获取的数据驱动的，其成功在很大程度上取决于数据的数量和质量。我们