大数据经典算法Apriori讲解.ppt

Apriori算法实例 频繁项集产生关联规则 Apriori算法 如果存在I1，I2，I4. 和 I1，I3，I4两组的时候，我们要不要连接？ 我认为是不用的。 首先，不用连接的后果，唯一可能造成的后果就是将I1，I2，I3，I4项集遗漏。 我们观察是否会将I1，I2，I3，I4项集遗漏。 Apriori算法 假设I1，I2，I3，I4项集满足条件，是存在的。 那么候选集中必然存在I1，I2，I3;和I1，,I2，I4 和 I1，I3, I4， 和 I2，I3，I4. 而不会仅仅是I1，I2，I4. 和 I1，I3，I4。 通过I1，I2，I3和I1，I2，I4的组合，就可以得到I1，I2，I3，I4.所以不会遗漏。 Apriori算法的缺陷 （1）在每一步产生侯选项目集时循环产生的组合过多，没有排除不应该参与组合的元素; （2）每次计算项集的支持度时，都对数据库D中的全部记录进行了一遍扫描比较，如果是一个大型的数据库的话，这种扫描比较会大大增加计算机系统的I/O开销。而这种代价是随着数据库的记录的增加呈现出几何级数的增加。 因此人们开始寻求一种能减少这种系统1/O开销的更为快捷的算法。 Apriori算法的优化思路 在逐层搜索循环过程的第k步中，根据k-1步生成的k-1维频繁项目集来产生k维候选项目集，由于在产生k-1维频繁项目集时，我们可以实现对该集中出现元素的个数进行计数处理，因此对某元素而言，若它的计数个数不到k-1的话，可以事先删除该元素，从而排除由该元素将引起的大规格所有组合。 这是因为对某一个元素要成为K维项目集的一元素的话，该元素在k-1阶频繁项目集中的计数次数必须达到K-1个，否则不可能生成K维项目集(性质3)。 根据以上思路得到了这个候选项目集后，可以对数据库D的每一个事务进行扫描，若该事务中至少含有候选项目集CK中的一员则保留该项事务，否则把该事物记录与数据库末端没有作删除标记的事务记录对换，并对移到数据库末端的事务记录作删除标一记，整个数据库扫描完毕后为新的事务数据库D’ 中。 因此随着K 的增大，D’中事务记录量大大地减少，对于下一次事务扫描可以大大节约I/0 开销。由于顾客一般可能一次只购买几件商品，因此这种虚拟删除的方法可以实现大量的交易记录在以后的挖掘中被剔除出来，在所剩余的不多的记录中再作更高维的数据挖掘是可以大大地节约时间的。 Apriori算法的优化实例 Apriori算法的优化效果 （1）优化算法在考虑组合CK前，对将参与组合的元素进行计数处理，根据计数结果决定排除一些不符合组合条件的元素而降低循环判断的次数。如果对大型的数据库而言，这种时间开销的降低对数据挖掘效率来说是显而易见的，这是Apriori方法中没有涉及的; （2） 优化算法对数据库进行扫描后重新生成(‘删除’一些不能支持频繁集的记录，这里所谓的删除实际上是把不符合再次扫描比较条件的记录通过交换记录内容的方式移到数据库的末端，把末端新记录填入该记录的位置。同时对数据库中的记录数逻辑地减少。)虽然会在记录重写中浪费时间和I/O的开销，但是随着循环次数的增加，本算法对以后在‘新生成的数据库’中的扫描比较次数很快减少将逐渐体现出来。 Thank You！！！ Any Question？？ 谢谢大家！ 感谢您的观看！ Apriori Algorithm 小组成员 吴国泉、唐思远、赵清伟、张波 * 购物篮分析：引发性例子 Questions 关联 分析 Solutions 1：经常同时购买的商品可以摆近一点，以便进一步刺激这些商品一起销售。 2：规划哪些附属商品可以降价销售，以便刺激主体商品的捆绑销售。 哪组商品顾客可能会在一次购物时同时购买？ 关联分析的基本概念 关联规则是形如 的蕴含式， （支持度）规则 在事务集D中成立，支持度S是事务包含 的百分比。 Support（ ）= P（ ） （置信度）置信度C是D中同时包含A的事务同时也包含B的百分比。 Confidence（ ）= P（ ）/P（A） （k项集）包含k个项的项集称为k项集，频繁k项集的集合记作 ，候选k项集的集合记作 。 由频繁项集产生强关联规则 （1）K维数据项集LK是频繁项集的必要条件是它所有K-1维子项集