第3课频繁模式及关联规则挖掘技术.pptVIP

Empty Empty f {(f:3)}|c {(f:3)} c {(f:3, c:3)}|a {(fc:3)} a Empty {(fca:1), (f:1), (c:1)} b {(f:3, c:3, a:3)}|m {(fca:2), (fcab:1)} m {(c:3)}|p {(fcam:2), (cb:1)} p 条件FP-tree 条件模式库 项 通过建立条件模式库得到频繁集 * 第3课 频繁模式及关联规则挖掘技术 徐从富，副教授 浙江大学人工智能研究所 浙江大学本科生《数据挖掘导论》课件 内容提纲 关联规则挖掘简介 关联规则基本模型 关联规则价值衡量与发展 参考文献 关联规则简介 关联规则反映一个事物与其他事物之间的相互依存性和关联性。如果两个或者多个事物之间存在一定的关联关系，那么，其中一个事物就能够通过其他事物预测到。 典型的关联规则发现问题是对超市中的货篮数据（Market Basket）进行分析。通过发现顾客放入货篮中的不同商品之间的关系来分析顾客的购买习惯。 什么是关联规则挖掘 关联规则挖掘 首先被Agrawal, Imielinski and Swami在1993年的SIGMOD会议上提出 在事务、关系数据库中的项集和对象中发现频繁模式、关联规则、相关性或者因果结构 频繁模式: 数据库中频繁出现的项集 目的: 发现数据中的规律 超市数据中的什么产品会一起购买？— 啤酒和尿布 在买了一台PC之后下一步会购买? 哪种DNA对这种药物敏感? 我们如何自动对Web文档进行分类? 频繁模式挖掘的重要性 许多重要数据挖掘任务的基础 关联、相关性、因果性 序列模式、空间模式、时间模式、多维 关联分类、聚类分析 更加广泛的用处 购物篮分析、交叉销售、直销 点击流分析、DNA序列分析等等 关联规则基本模型 关联规则基本模型 Apriori算法 Fp-Tree算法 关联规则基本模型 IBM公司Almaden研究中心的R.Agrawal首先提出关联规则模型，并给出求解算法AIS。随后又出现了SETM和Apriori等算法。其中，Apriori是关联规则模型中的经典算法。 给定一组事务 产生所有的关联规则 满足最小支持度和最小可信度 关联规则基本模型（续） 设I={i1, i2,…, im}为所有项目的集合，D为事务数据库，事务T是一个项目子集（T?I）。每一个事务具有唯一的事务标识TID。设A是一个由项目构成的集合，称为项集。事务T包含项集A，当且仅当A?T。如果项集A中包含k个项目，则称其为k项集。项集A在事务数据库D中出现的次数占D中总事务的百分比叫做项集的支持度。如果项集的支持度超过用户给定的最小支持度阈值，就称该项集是频繁项集（或大项集）。 关联规则基本模型（续） 关联规则是形如X?Y的逻辑蕴含式，其中X?I，Y?I，且X?Y=?。如果事务数据库D中有s%的事务包含X?Y，则称关联规则X?Y的支持度为s%，实际上，支持度是一个概率值。若项集X的支持度记为support (X)，规则的信任度为support (X?Y)／support (X)。这是一个条件概率P (Y | X)。 也就是： support (X?Y)=P (X ?Y) confidence (X?Y)=P (Y | X) 规则度量：支持度与可信度 查找所有的规则 X Y ? Z 具有最小支持度和可信度 支持度, s, 一次交易中包含{X 、 Y 、 Z}的可能性 可信度, c, 包含{X 、 Y}的交易中也包含Z的条件概率 设最小支持度为50%, 最小可信度为 50%, 则可得到 A ? C (50%, 66.6%) C ? A (50%, 100%) 买尿布的客户 二者都买的客户 买啤酒的客户 关联规则基本模型（续） 关联规则就是支持度和信任度分别满足用户给定阈值的规则。 发现关联规则需要经历如下两个步骤： 找出所有频繁项集。 由频繁项集生成满足最小信任度阈值的规则。 Let min_support = 50%, min_conf = 50%: A ? C (50%, 66.7%) C ? A (50%, 100%) Customer buys diaper Customer buys both Customer buys beer Transaction-id Items bought 10 A, B, C 20 A, C 30 A, D 40 B, E, F For rule A ? C: support = support({A}?{C}) = 50% confidence = support({A}?{C})/support({A}) = 66.6% Min. supp