第五章节-决策树.pdfVIP

第五章 决策树 5.1 问题概述 各个领域的人工智能实现，常常要涉及这样的问题：从实际问题提取数据，并从数据中 提炼一组推理规则，以支持知识推理实现智能的功能。知识规则一般以“原因——结果”形 式表示。一般地，获取知识规则可以通过样本集{(x (k ) ,x (k ) ,...x (k ) ,y (k ) ) | k 1,2,...m }建模 1 2 n 实现。由于推理结果是有限个，即y 的取值是有限的，所以这样的建模属于分类问题。利用 神经网络可以实现分类问题的建模，但当影响因素变量xi 的个数较大时，建模后的知识规 则不易表示，特别地，当某些变量xi 的取值缺失时，即使神经网络具有容错性，也会在一 定程度下影响分类结果的不确定性。实际应用中，决定分类结果可能只是几个主要影响因素 取值，不依赖全部因素变量，因此，知识规则的提取，可以转换为这样的问题：某一分类下 哪些是主要影响因素，这些主要因素与分类结果的因果规则表示如何获取？决策树就是解决 这些问题的方法之一。 5.2 决策树概述 决策树学习算法是以一组样本数据集（一个样本数据也可以称为实例）为基础的一种