关联规则挖掘.ppt

数据挖掘与商务智能Data Mining Business Intelligence第三章 关联规则挖掘 西安电子科技大学　软件学院 主讲人：黄健斌 内容提纲 关联规则挖掘简介 关联规则基本模型 关联规则挖掘的经典算法 Apriori FP-Growth 参考文献 Ⅰ. 关联规则简介 关联规则反映一个事物与其它事物之间的相互依存性和关联性。如果两个或者多个事物之间存在一定的关联关系，那么，其中一个事物发生就能够预测与它相关联的其它事物的发生。 关联规则挖掘的经典范例：购物篮（Market Basket）分析。通过发现顾客放入购物篮中商品之间的同现关系来分析顾客的购买习惯，从而实现商品的交叉销售和推荐。 事务与规则 Given a set of transactions, find rules that will predict the occurrence of an item based on the occurrences of other items in the transaction Frequent Itemset 频繁项集 Itemset 项 A collection of one or more items Example: {Milk, Bread, Diaper} k-itemset k-项 An itemset that contains k items Support count (?) 支持度计数 Frequency of occurrence of an itemset E.g. ?({Milk, Bread,Diaper}) = 2 Frequent Itemset 频繁项集 An itemset whose support is greater than or equal to a minsup threshold 最小支持度计数 Association Rule 关联规则 Definition: Association Rule 规则度量：支持度与置信度信度 规则 X ? Y 的支持度和可信度 支持度 s：一次交易中同时包含{X 、 Y }的可能性 置信度 c ：包含项X 的交易中同时也包含Y的条件概率 什么是关联规则挖掘 关联规则挖掘 首先被IBM公司Almaden研究中心的R. Agrawal, Imielinski and Swami在1993年的SIGMOD会议上提出 在事务、关系数据中发现频繁项集和关联规则 频繁项集: 事务数据中支持度大于最小支持度阈值minsup的所有项集 关联规则：事务数据中支持度大于最小支持度阈值minsup且置信度大于最小置信度阈值minconf的所有规则 什么是关联规则挖掘 关联规则挖掘的意义: 发现数据中的规律 超市数据中的什么产品会一起购买？— 啤酒和尿布 在得知某用户买了一台PC之后，预测他同时还会购买什么商品? 关联规则挖掘 Given a set of transactions T, the goal of association rule mining is to find all rules having support ≥ minsup threshold confidence ≥ minconf threshold Brute-force approach 蛮力方法: List all possible association rules Compute the support and confidence for each rule Prune rules that fail the minsup and minconf thresholds ? 计算开销极大，无法应用于大规模数据集! 关联规则挖掘 关联规则挖掘 Two-step approach: Frequent Itemset Generation 产生频繁项集 Generate all itemsets whose support ? minsup Rule Generation 产生规则 Generate high confidence rules from each frequent itemset, where each rule is a binary partitioning of a frequent itemset Frequent itemset generation is still computationally expensive 产生频繁项集的计算代价依然很高 产生频繁项集 产生频繁项集 Brute-force approach 蛮力法: Each itemset in the lattice is a candida