数据挖掘课件第3章关联规则挖掘理论和算法new.pptVIP

Data Mining: Concepts and Techniques 关联规则挖掘是数据挖掘研究的基础 关联规则挖掘（Association Rule Mining）是数据挖掘中研究较早而且至今仍活跃的研究方法之一。 最早是由Agrawal等人提出的（1993）。最初提出的动机是针对购物篮分析（Basket Analysis）问题提出的，其目的是为了发现交易数据库（Transaction Database）中不同商品之间的联系规则。 关联规则的挖掘工作成果颇丰。例如，关联规则的挖掘理论、算法设计、算法的性能以及应用推广、并行关联规则挖掘（Parallel Association Rule Mining）以及数量关联规则挖掘（Quantitive Association Rule Mining）等。 关联规则挖掘是数据挖掘的其他研究分支的基础。 事务数据库 设I={ i1，i2，…，im }是一个项目(Item)集合，事务数据库D={ t1，t2，…，tn }是由一系列具有唯一标识TID(事务号)的事务组成，每个事务ti（i=1，2，…，n）都对应 I 上的一个子集。 一个事务数据库可以用来刻画： 购物记录： I是全部物品集合， D是购物清单，每个元组 ti 是一次购买物品的集合（它当然是 I 的一个子集）。 如I={ 物品1，物品2，…，物品m };事务数据库D={ t1，t2，…，tn }是 支持度、频繁项目集、可信度、强关联规则 定义（项目集的支持度） 给定一个全局项目集I和数据库D，一个项目集 I1?I 在D上的支持度（Support）是包含 I1 的事务在D中所占的百分比： support（ I1 ）=|| { t? D | I1 ? t }|| / || D|| 定义（频繁项目集） 给定全局项目集I和数据库D ，D中所有满足用户指定的最小支持度（Minsupport）的项目集，即大于或等于最小支持度的 I 的非空子集，称为频繁项目集（Frequent Itemsets）。在频繁项目集中挑选出所有不被其他元素包含的频繁项目集称为最大频繁项目集（ Maximum Frequent Itemsets）。 定义（规则的可信度） 一个定义在I和D上的形如 I1?I2 的关联规则通过满足一定的可信度(Confidence)来给出。所谓规则的可信度是指包含 I1 和I2的事务与包含 I1 的事务之比： Confidence(I1?I2)=|| Support(I1∪I2) / Support(I1) 其中I1 ,I2 ?I ; I1∩I2=? 定义（强关联规则）。D 在 I 上满足最小支持度和最小可信度的关联规则称为强关联规则。 通常所说的关联规则一般指上面定义的强关联规则。 关联规则挖掘基本过程 关联规则挖掘问题就是根据用户指定的最小支持度和最小可信度来寻找强关联规则。 关联规则挖掘问题可以划分成两个子问题： 1.发现频繁项目集:通过用户给定最小支持度，寻找所有频繁项目集或者最大频繁项目集。 2.生成关联规则:通过用户给定最小可信度，在频繁项目集中，寻找关联规则。 第1个子问题是近年来关联规则挖掘算法研究的重点。 项目集格空间理论 Agrawal等人建立了用于事务数据库挖掘的项目集格空间理论（1993, Appriori 属性）。 其理论核心的原理是： 频繁项目集的所有非空子集都是频繁项目集 非频繁项目集的所有超集都是非频繁项目集 （相关定理及其证明略。） 经典的发现频繁项目集算法 1994年，Agrawal 等人提出了著名的Apriori 算法。 Apriori算法（发现频繁项目集） Apriori-gen过程 算法Apriori中调用了Apriori-gen(Lk-1)，是为了通过(k-1)-频集产生K-侯选集。 has_infrequent_subset（c， Lk-1），判断c是否加入到k-侯选集中。 Apriori算法是通过项目集元素数目不断增长来完成频繁项目集发现的。首先产生1_频繁项目集L1，然后产生2_频繁项目集L2，直到不能再扩展频繁项目集的元素数目为止。 下面给出一个样本事务数据库，并对它实施Apriori算法。 Apriori算法例子 关联规则的生成问题 根据上面介绍的关联规则挖掘的两个步骤，在得到了所有频繁项目集后，可以按照下面的步骤生成关联规则： 对于每一个频繁项目集 l ，生成其所有的非空子集； 对于l 的每一个非空子集x，计算Conference（x），如果Confidence（x）≥minconfidence，那么“ x?(l-x) ”成立。 关联规则生成算法: 从给定的