基于决策树的经典算法综述.pdfVIP

　第 22 卷第 2 期 宿 州 学 院 学 报 . 22, . 2 Vol No 　2 0 0 7 年 4 月 Journa l of Suzhou College Apr . 2 0 0 7 基于决策树的经典算法综述 路红梅1, 2 ( 1. 合肥工业大学 计算机与信息学院, 安徽 合肥　230009; 2. 宿州学院 人工智能与数据挖掘研究室, 安徽 宿州　234000) 摘要: 决策树是一种重要的数据挖掘方法。本文对几种经典的决策树算法进行了综述, 并对其进行了分析比较, 为 决策树的优化研究提供了借鉴。 关键词: 决策树; 数据挖掘; 分类 ( ) 中图分类号: T P 312　　文献标识码: A 　　文章编号: 1673- 2006 2007 02- 0091- 05 　　人工智能已经发展了多种技术来建造分类模 1966 年由H un t 等人提出了第一个用于构造决 型, 其中决策树是一种常用的模型。决策树曾在相当 策树的概念学习系统CL S [ 2 ] , 后来的许多决策树学 长的时间内是一种非常流行的人工智能技术。20 世 习算法都可以看作是对CL S 算法的改进与更新。 纪 80 年代, 它是构建人工智能系统的主要方法之 CL S 算法的主要思想是从一个空的决策树出 一。20 世纪90 年代初, 这一技术随着人工智能遭遇 发, 通过添加新的判定结点来完善原来的决策树, 直 低潮而逐渐不为人所注意。然而, 20 世纪90 年代后 至该决策树能够正确分类训练实例为止。 期, 随着数据挖掘技术的兴起, 决策树作为一个构建 CL S 算法的主要步骤如下: ( ) 的初始状态只含有一个树根 决策系统的强有力的技术而重新浮出水面。随着数 1 令决策树 T 据挖掘技术在商业智能等方面的应用, 决策树技术 (X , Q ) , 其中X 是全体训练实例的集合, Q 是全体 [ 1 ] 测试属性的集合; 将在未来发挥越来越强大的作用 。 ( ) ( ) 2 若T 的所有叶结点 X ′, Q ′都有如下状态: 1　决策树与分类 或者第一个分量X ′中的训练实例都属于同一个类, 决策树因其形状像树且能用于决策而得名。从 或者第二个分量Q ′为空, 则停止执行学习算法, 学 习的结果为 ; 技术上讲, 一个决策树由一系列结点和分枝组成, 树 T ( ) ( ) ( )