关联规则挖掘算法研究_计算机论文.docVIP

关联规则挖掘算法研究_计算机论文 关联规则挖掘算法研究_计算机论文 摘 要 Apriori算法是发现频繁项目集的经典算法，但是该算法需反复扫描数据库，因此效率较低。本文介绍了Apriori算法的思想，并分析了该算法的性能瓶颈。在此基础上，针对Apriori算法提出了一种改进方法，该方法采用转置矩阵的策略，只扫描一次数据库即可完成所有频繁项目集的发现。与其他经典的算法相比，本文提出的算法在项目集长度较大时，性能明显提高。 关键字 关联规则，支持度，置信度，Apriori 1 引言 关联规则挖掘就是在海量的数据中发现数据项之间的关系，是数据挖掘领域中研究的热点问题。1993年Agrawal等人[1]首先提出了交易数据库中不同商品之间的关联规则挖掘，并逐渐引起了专家、学者的重视。关联规则挖掘问题可以分为：发现频繁项目集和生成关联规则两个子问题，其中发现所有的频繁项目集是生成关联规则的基础。近年来，发现频繁项目集成为了关联规则挖掘算法研究的重点，在经典的Apriori算法的基础上提出里大量的改进算法。Savasere等[2]设计了基于划分(partition)的算法，该算法可以高度并行计算，但是进程之间的通信是算法执行时间的主要瓶颈；Park等[3]通过实验发现寻找频集主要的计算是在生成频繁2-项集上，利用这个性质Park等引入杂凑（Hash）技术来改进产生频繁2-项集的方法，该算法显著的提高了频繁2-项集的发现效率；Mannila等[4]提出：基于前一遍扫描得到的信息，对此仔细地作组合分析，可以得到一个改进的算法了。针对Mannila的思想Toivonen[5]进一步提出：先使用从数据库中抽取出来的采样得到一些在整个数据库中可能成立的规则，然后对数据库的剩余部分验证这个结果。Toivonen的算法相当简单并显著地减少了I/O代价，但是一个很大的缺点就是产生的结果不精确，存在数据扭曲(data skew)。 上述针对经典Apriori算法的改进算法在生成频繁项目集时都需要多次扫描数据库，没有显著的减少I/O的代价。本文在分析了经典的Apriori算法的基础上，给出了一种改进的方法，该方法采用转置矩阵的策略，只扫描一次数据库即完成频繁项目集的发现，在项目集长度较大时，性能明显提高。 2 Apriori算法 2.1 基本概念 设I={i1, i2,…, im}是二进制文字的集合，其中的元素称为项(item)。定义交易(transaction)T为项的集合，并且TIacuteI，定义D为交易T的集合。设X是I中若干项的集合，如果XIacuteT，那么称交易T包含X。项目集中包含项的个数成为项目集长度。 关联规则是形如XTHORNY的蕴涵式，这里XIgraveI, YIgraveI，并且XCcedilY=F。 规则XTHORNY在交易数据库D中的支持度（support）是交易集合中包含X和Y的交易数与所有交易数之比，记为support(XTHORNY)，即support(XTHORNY)=|{T:XEgraveYIacuteT，TIcircD}|/|D|。 规则XTHORNY在交易集中的置信度（confidence）是指包含X和Y的交易数与包含X的交易数之比，记为confidence(XTHORNY)，即confidence(XTHORNY)=|{T: XEgraveYIacuteT，TIcircD}|/|{T:XIacuteT，TIcircD}|。给定一个交易集D，挖掘关联规则就是找出支持度和置信度分别大于用户给定的最小支持度(minsup)和最小置信度(minconf)的关联规则。 2.2 基本思想 1994年Agrawal等人在项目集格空间理论的基础上提出了用于发现频繁项目集的Apriori算法。该算法采用“逐层搜索”的迭代方法，用k-项集生成(k+1)-项集。首先，扫描数据库计算出频繁1-项集的集合（记为：L1）；然后，执行下面的迭代过程计算频繁k-项集，直到生成频繁k-项集的集合（记为：Lk）为空： ①连接：Lk-1进行自连接运算,生成候选k-项集的集合（记为：C k）。所有的频繁k-项集都包含在C k集合中。 ②剪枝：①生成的C k是Lk的超集，扫描数据库计算C k中每个候选项目集的支持度，支持度大于用户给定最小支持度的候选k-项目集就是频繁k-项目集。 通过上述的迭代过程，可以发现项目集I在给定数据库D中满足最小支持度的所有频繁项目集。 2.3 算法分析 Apriori算法在执行“连接-剪枝”的迭代过程中，需要多次扫描数据库，如果生成的频繁项目集中含有10-项集，则需要扫描10遍数据库，增大了I/O负载。并且在迭代过程中，候选项目集合Ck是以指数速度增长的，Lk-1自连接会产生大量的候选k-项目集，例如