基于关联规则的不平衡数据分类方法研究-管理科学与工程专业论文.docxVIP

研究生优秀毕业论文 大连理工大学硕士学位论文摘 大连理工大学硕士学位论文 摘 要 基于关联规则的分类方法即关联分类算法，是数据挖掘中非常重要的一个领域，因 解释说明性强，分类精度高等特点已经成为智能决策领域的研究热点。然而，不平衡数 据的出现给关联分类算法带来了挑战。在现实生活中存在很多不平衡数据集的应用，比 如入侵检测、森林火灾、信用欺诈等等。在这些应用中，人们关心的更多是对少数类的 分类精度，因为它的错误分类产生的代价是非常大的。因此，在实际应用中非常有必要 提高不平衡数据的分类精度，尤其是少数类的分类精度。 对于关联分类算法不能很好地处理不平衡数据，主要有两方面的原因：一是关联分 类使用的兴趣度量往往是基于“置信度．支持度架构的，对于不平衡数据集，无论将 其设置得或高或低，都会产生极少与少数类有关的规则或大量无用的规则。兴趣度量起 着至关重要的作用，它参与了规则的生成、剪枝和排序的过程，所以选择合适的兴趣度 量对提高关联分类算法处理不平衡数据的性能非常有必要。二是因为类分布不均的不平 衡数据会导致分类算法往往倾向于多数类，容易忽略少数类起到的作用，使得生成的规 则质量较差。针对以上原因本文主要从以下两个方面展开研究： (1)从兴趣度量角度着手，旨在找到合适的兴趣度量，从而提高关联分类方法处 理不平衡数据的性能。一方面本文提出了稳定强关联度量挖掘(Stable Strongly Correlated Measures Mining)方法找到在不平衡数据下普遍存在强关联关系的度量集，进而分析其 行为。另一方面，为了选出所有优秀的度量，本文基于分类精度实现了对所有兴趣度量 在不同类分布下的排序，经过筛选和行为分析得到了具有不同特点的两组相对优秀的度 量集。 (2)从数据和规则层次着手，旨在保证规则的质量，从而提高关联分类对不平衡 数据集的分类精度。首先在数据层次，本文提出关键值抽样(Key Value Sampling)法对原 始训练集进行抽样，通过增加与少数类相关性强的数据，减少与多数类相关性弱的数据 来达到数据类分布平衡。其次在规则层次，本文充分利用了关联分类产生的分类器能够 实现修改个别规则而不影响其它规则的特点，对初步生成的分类器进行了规则验证(Rule Validation)，并对分类效果不好的规则进行修改，从而提高整个分类器的性能。 综上分析，本文分别从优秀度量的选择和算法的改进两方面对提高关联分类处理不 平衡数据精度展开研究，两方面的工作均能在一定程度上提高关联分类处理不平衡数据 的性能，并通过数值实验说明了实验结果的有效性和结论的可靠性。 关键词：关联分类：不平衡数据；兴趣度量选择；数据抽样；规则验证 万方数据 基于关联规则的不平衡数据分类方法研究The 基于关联规则的不平衡数据分类方法研究 The Study of Association Rule based Classification for lmbalanced Data Abstract The association rule based classification IS also called as Associative Classification(AC) method．It is a very important field in data mining research．Because of its advantages such as strong interpretation ability and high classification accuracy，AC has become a hot topic in the intelligent decision-making field．However，the emergence of imbalanced data has brought a challenge for AC method．Imbalanced data is that with imbalanced class distribution，which means that the records belonging to minority class is far less than those of maj ority class．In practice，there are a lot of applications with imbalanced data sets，such as intrusion detection，forest fire forecasting，credit fraud and SO on．In such applications，people care more about the