基于知识整合的数据流分类算法研究-计算机软件与理论专业论文.docxVIP

- - I - 摘 要 数据流中概念漂移的产生不仅仅会引起分类结 果的变化而且会引起分类器模 型的变化。本文针对这一问题提出了 一种基于决策树知识整合的处理方法 KIDDT （Knowledge Integration Dynamic Decision Tree）。该方法考虑在数据流中截取 适当的数据块儿来构造部分决策树知识模式，然后对这些部分知识模式进行知识整 合。整合过程将系综分类算法中的加权思想应用于属性的选择中以处理概念漂移问 题。整合后的知识模式即最终决策树综合了多个分类器的不完整知识模式，形成相 对完整统一的知识结构，预测样本时仅仅利用经过虚拟剪枝处理后的分类器进行一 次决策就可以判断样本的所属类别。该 算法具有较高的分类精度与可理解性 。 KIDDT 知识整合系统开发使用开源数据挖掘软件 WEKA 以及 JAVA 编译环境 Myeclipse6.5。系统实现后利用一系列的实验验证了 KIDDT 算法在数据流分类中的 优越性和有效性。 关键词：数据流分类；知识整合；概念漂移；决策树 - - II - Abstract Not only the result of classification will be changed for the generated concept drift ,but also the model of knowledge in data stream. In this paper,an algorithm(Knowledge Integration Dynamic Decision Tree ,KIDDT) based decision tree knowledge Integration is proposed to deal with the problem. The data block will be captured properly to construct the Incomplete model of decision tree, and then integrated these parts of the sub-knowledge model. The weight thought in the algorithm of ensemble will be introduced into KIDDT for the attribute decision making. The integrated knowledge model namely the finally decision tree which includes relatively complete and unified knowledge structure.It sums up multiple classifiers with Incomplete knowledge model. KIDDT just using the final integrated decision tree with no shadow node when it predicting samples.KIDDT system is developed in the open source data mining software WEKA and JAVA environment Myeclipse6.5. Finally,the superiority and effectiveness of KIDDT algorithm is verified by a series experiments with stream dataset. Key Words：Data Stream Classification；Knowledge Integration；Concept Drift； Decision Tree - - III - 目 录 摘 要 I Abstract II 1 绪论 1 1.1 引言 1 1.2 本文的选题背景及其意义 1 1.3 国内外研究现状 2 1.4 本文研究的问题与使用的方法 4 1.5 论文的组织结构 5 2 数据挖掘与决策树分类相关基础理论 7 2.1 数据挖掘概述 7 2.2 分类的过程与评价标准 8 2.3 基于信息熵的决策树分类算法 9 2.4 决策树的剪枝 12 2.5 本章小结 14 3 数据流分类算法研究 15 3.1 引言 15 3.2 数据流分类特点分析 15 3.3 数据流中的概念漂移 17 3.4 数据流分类所需解决的问题 18 3.5 数据流分类的过程 19 3.6 数据流挖掘中的几种分类算法 20 TO