关联式规则程序分析 频繁项挖掘程序分析9.docxVIP

关联式规则程序分析1关联式规则的背景及定义1.1 关联式规则的背景介绍作为数据挖掘的重要组成部分，关联式规则（AR - Association - Rules），用于挖掘发现大量数据中项集之间有趣的关联或相互联系。随着大量数据不停地收集和存储，许多业界认识对于从他们的数据库中挖掘关联式规则越来越感兴趣。关联式规则正在被深入研究，其成果正被广泛使用在各个领域，例如web挖掘，入侵检测和生物信息等等。举例来说，关联式规则解决的常见问题为“如果一个消费者购买了产品A，那么他将有多大机会购买产品B？（购物篮分析）”或者“如果一个用户经常访问A类型的网页，那么什么样的商品是他（她）可能最感兴趣的？（web挖掘）”等等。1.2 关联式规则的定义假设I=｛I1,I2…,Im｝是项的集合，I的每个子集成为项集，包含k个项的项集称为k-项集。给定一个事务数据库D=｛t1,t2,…,tn｝，其中每个事务(Transaction)t是I的非空子集，即T属于I，每一个交易都与一个唯一的标识符TID(Transaction ID)对应。关联规则是形如X=Y的蕴涵式，其中X和Y都属于I且X和Y的交集非空，?X和Y分别称为关联规则的先导(antecedent或left-hand-side, LHS)和后继(consequent或right-hand-side, RHS) 。关联规则X=Y在D中的支持度(support)是D中事务包含X∪Y的百分比，即概率P（X∪Y）；置信度(confidence)是包含X的事务中同时包含Y的百分比，即条件概率P（Y|X）。如果同时满足最小支持度阈值和最小置信度阈值，则认为关联规则是有趣的。这些阈值由用户或者专家设定。用一个简单的例子说明。图1是顾客购买记录的数据库D，包含6个事务。项集I={网球拍,网球,运动鞋,羽毛球}。考虑关联规则：网球拍网球，事务1,2,3,4,6包含网球拍，事务1,2,6同时包含网球拍和网球，支持度support = 3/6 = 0.5，置信度confident = 3/6 =0.5。若给定最小支持度α = 0.5，最小置信度β = 0.6，关联规则网球拍网球是有趣的，认为购买网球拍和购买网球之间存在强关联。TID网球拍网球运动鞋羽毛球111102110031000410105011161100图1.1关联规则的简单例子1.3 关联式规则算法简介和基本特点关联式规则的挖掘需要2个步骤:频繁项集挖掘：项集出现的频繁性（包含目标项集的事务数与总事务数的比值）大于等于最小支持度阈值。强关联规则产生：这些规则必须满足最小置信度阈值。其中频繁向挖掘过程为关联式规则算法的主要部分。随着对关联式规则的深入研究，产生了多种具有代表性算法，下面选取两个最常见频繁项挖掘算法的内容极其特点进行简要介绍。1.3.1 Apriori算法Apriori算法是一种基于广度优先搜索的算法。Apriori算法首先计算k项集（k 从1开始计算），根据最小支持度阈值，将得出的k项所有频繁项集，然后对其进行连结，剪枝处理计算k+1项频繁项集，如此迭代，直到无新频繁项集产生。由于Apriori算法的每一次迭代，计算后选项集计数时都需要遍历数据库，这具有一定的I/O负载。并且由于候选项集计数需要遍历数据库中每一条的事务数据，而这种遍历需要多次迭代进行，造成候选项集计数这一阶段出现性能瓶颈。分析Apriori算法特点得到，Apriori算法在短模式和稀疏数据集的模式下表现更好。1.3.2 FP_growth算法FP_growth算法是一种基于深度优先搜索的算法，通过在内存中维护一个相对紧凑的称为FP_tree的树结构，来减少对数据库的访问次数。通过将FP_tree递归的分化成一些条件模式树，进行并完成所有频繁子项的挖掘。密集矩阵和长模式数据集可以使FP_tree更紧凑，压缩率更高，从而带来更好的性能。2 关联式规则算法详解我们选取频繁项挖掘算法中的FP_growth算法作为当前研究算法，在上一节中，已经给出了FP_growth算法的简要介绍及其基本特征，下面将给出算法详细流程。2.1 FP_growth算法流程下面给出Fp_growth算法的整体流程。1 通过读取输入文件或者读取数据库，准备好待处理数据集。2 初次逐行扫描待处理数据集，根据用户给出的最小支持度阈值（min-supp）,计算出所有频繁的单项（1-项集），并依据每一项的频繁度使用排序算法对其降序排列。降序排列之后的数组被称为头表（Header Table）。图2.1 根据待处理数据集建立header table3 再次扫描待处理数据集，对事务数据集中每一个事务按照Header table中的顺序进行重新排序（按照支持度从高到低）和筛选工作（去掉不满足最小支持度阈值的项目，即不在He