决策树 ID3算法 扩展属性 拟线性函数 综合效应 属性约简 规则知识.doc

决策树论文：决策树的启发式模式研究及其在属性约简中的应用 【中文摘要】20世纪60年代,Hunt等人在研究人类概念建模时提出了决策树算法。决策树作为一种非常简捷的分类算法,其基本思想是从一组无规则无次序的事例中推理出决策树表示形式的分类规则,是挖掘规则知识的有效工具,现已成为较为广泛应用的逻辑方法之一。近年来,已成功地应用于科学实验、医疗诊断、气象预报、信贷审核、商业预测、案件侦破等领域。如今存在的众多决策树算法,都在一定程度上取得了较好的分类效果,但在如何选择更有效的启发式函数,对所构造决策树方法的可理解性方面以及决策树算法的应用领域方面依然存在进一步的探索空间。为此,本文主要做了以下几方面的工作：本文首先在分析决策树算法的本质特征基础上,基于ID3算法的扩展属性选择模式,针对扩展属性的选择问题,通过具体图示形象的说明了好的扩展属性所应具有的特点,总结了扩展属性选择的基本准则,提出了鉴别属性扩展性能的叶子准则、数据利用准则以及综合效应准则,建立了具有结构特征的评价属性扩展能力的数学模型。其次,通过引入拟线性函数,在分析拟线性函数性质特点的基础上,给出了一类基于拟线性函数的扩展属性选择模式(简记为QASM),并从理论和实验两个层面讨论了QASM的性能。再... 【英文摘要】Decision tree, generated in the 1960s, was raised by Hunt in the study of conceptual modeling. Decision tree, as a simple classification algorithm, is an effective tool for mining knowledge rules, it can deduce the classification rules in the form of decision tree from a set of examples, it is one of the most widely used logic methods. In recent years, it has been successfully applied in many fields, such as scientific experiments, medical diagnosis, weather forecasting, credit, audit, business forecasts, c... 【关键词】决策树 ID3算法 扩展属性 拟线性函数 综合效应 属性约简 规则知识 【英文关键词】decision tree IDS algorithm expanded attribute quasi-linear function comprehensive effect attribute reduction rule knowledge 【索购全文】联系Q1：138113721 Q2：139938848 【目录】决策树的启发式模式研究及其在属性约简中的应用 摘要 4-5 Abstract 5 第1章 绪论 9-16 1.1 研究背景及意义 9-12 1.1.1 数据挖掘的定义、发展过程及其应用领域 9-10 1.1.2 数据挖掘的基本步骤 10 1.1.3 数据挖掘的分类 10-11 1.1.4 数据挖掘分类基本算法 11-12 1.2 决策树算法的国内外研究现状 12-14 1.3 本课题的研究重点、研究意义以及论文结构 14-16 第2章 决策树分类算法概述 16-24 2.1 决策树算法简介 16-19 2.1.1 决策树算法概述 16 2.1.2 决策树的表示方法 16-17 2.1.3 决策树算法的执行过程 17 2.1.4 决策树分类算法的生成指标 17-19 2.2 几种常见的决策树分类算法 19-23 2.2.1 ID3算法概述 19-21 2.2.2 C4.5算法概述 21 2.2.3 CART算法概述 21 2.2.4 SLIQ算法概述 21-22 2.2.5 SPRINT算法简介 22 2.2.6 PUBLIC算法简介 22-23 2.3 本章小结 23-24 第3章 基于综合效应的决策树启发式模式研究 24-31 3.1 预备知识 24-25 3.1.1 综合效应函数 24 3.1.2 包含度的基本概念 24 3.1.3 凸集和凸函数 24-25 3.2 决策树算法选择扩展属性的基本准则 25-26 3.3 属性扩展能力的综合评价模式 26-30 3.3.1 数据利用准则 27 3.3.2 叶子准则(l=2) 27 3.3.3 叶子准则(l=n) 27-29 3.3.4 几点注明 29-30 3.4 本章小结 30