基于粗糙集决策树分类算法的改进与研究-信号与信息处理专业论文.docxVIP

万方数据 万方数据 湘潭大学 学位论文原创性声明 本人郑重声明：所呈交的论文是本人在导师的指导下独立进行研究所 取得的研究成果。除了文中特别加以标注引用的内容外，本论文不包含任 何其他个人或集体已经发表或撰写的成果作品。对本文的研究做出重要贡 献的个人和集体，均已在文中以明确方式标明。本人完全意识到本声明的 法律后果由本人承担。 作者签名： 日期： 年 月 日 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，同意 学校保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文 被查阅和借阅。本人授权湘潭大学可以将本学位论文的全部或部分内容编 入有关数据库进行检索，可以采用影印、缩印或扫描等复制手段保存和汇 编本学位论文。 涉密论文按学校规定处理。 作者签名： 日期： 年 月 日 导师签名： 日期： 年 月 日 I 摘 要 数据挖掘就是在给定数据中发现数据之间的联系的过程。目前，人们对数据 挖掘方面的研究主要集中在聚类、知识分析、决策支持等方面。分类算法是数据 挖掘核心技术之一，是当前数据挖掘领域的一个研究热点。同时，粗糙集作为一 种研究数据表达归纳的重要方法，在数据挖掘、知识发现方面有着不可替代的作 用。 传统的基于区分价值的算法需要对全部候选测试属性的取值进行比较，决策 树规模较大，分类精度不是很高。为了获得更好的分类效果，降低决策树的规模， 提高分类精度，本文对基于区分价值的属性选择判据的决策树算法进行了如下改 进： 首先，将粗糙集技术和决策树理论结合起来，针对于传统的基于区分价值的 决策树算法必须依次比较对象的区分价值，从而导致时间开销过大的问题，提出 了改进算法一。该算法定义了“FI”和“SI”两个参数，减少对象之间的比较次 数，有效提升了时间性能，最终达到了缩小决策树规模的目的。 其次，为了进一步降低决策树的规模，改进单变量决策树没有充分考虑属性 间的相互关联的不足，引入了基于区分价值的多变量改进算法二，该算法选择 “FI”里面参数 I(a)（某属性值上取值不同的个数）取值最大和次大的属性作为 多变量检测属性；若属性集中“FI”为空，将“SI”中的属性按区分价值排序， 对属性进行分类，进一步改进决策树算法。 最后，在 UCI 数据库的三个数据集上比较了基于 ID3 算法、建立在区分价 值基础之上的单变量的决策树算法（改进算法一）和建立在区分价值基础之上的 多变量决策树（改进算法二）三者的效果。通过实验我们发现，改进算法一在维 持生成决策树时间开销基本不变的同时，分类的准确性有所提高，但是，所生成 的决策树规模有进一步优化的空间。改进算法二能够构造一棵结构更为简单的决 策树，分类的准确性进一步提高。 关键词：数据挖掘；决策树算法；粗糙集；区分价值； II Abstract Data mining is the process of contact between the data found in the given data. Currently,research on data mining people focused on clustering, knowledge analysis, decision support and other aspects.Classification algorithm is one of the core technology of data mining and a hot research topic in the field of data mining. Meanwhile,the rough sets an Iortant method of induction as a research data presentation, data mining, knowledge discovery has a irreplaceable role. The traditional algorithms need to compare all of the test values,the time is not good performance, the classification accuracy is not high.In order to obtain better classification results, reduce the size of the decision tree ,Irove the classification accuracy,the algorithm based on attribute selection criterion puts the following Irovements. First