第六章：关联规则 《数据挖掘与知识发现》 教学课件.pptVIP

2003-11-1 高等教育出版社 第六章：关联规则 6.1 引言 6.2 关联规则基本模型 6.3 多级关联规则与多维关联规则 6.4 关联规则价值衡量与发展 本章小结 第六章：关联规则 6.1 引言 6.2 关联规则基本模型 6.3 多级关联规则与多维关联规则 6.4 关联规则价值衡量与发展 本章小结 关联规则简介 关联规则反映一个事物与其他事物之间的相互依存性和关联性。如果两个或者多个事物之间存在一定的关联关系，那么，其中一个事物就能够通过其他事物预测到。 典型的关联规则发现问题是对超市中的货篮数据（Market Basket）进行分析。通过发现顾客放入货篮中的不同商品之间的关系来分析顾客的购买习惯。 第六章：关联规则 6.1 引言 6.2 关联规则基本模型 6.3 多级关联规则与多维关联规则 6.4 关联规则价值衡量与发展 本章小结 关联规则基本模型 IBM公司Almaden研究中心的R.Agrawal首先提出关联规则模型，并给出求解算法AIS。随后又出现了SETM和Apriori等算法。其中，Apriori是关联规则模型中的经典算法。 关联规则基本模型（续） 设I={i1, i2,…, im}为所有项目的集合，D为事务数据库，事务T是一个项目子集（T?I）。每一个事务具有唯一的事务标识TID。设A是一个由项目构成的集合，称为项集。事务T包含项集A，当且仅当A?T。如果项集A中包含k个项目，则称其为k项集。项集A在事务数据库D中出现的次数占D中总事务的百分比叫做项集的支持度。如果项集的支持度超过用户给定的最小支持度阈值，就称该项集是频繁项集（或大项集）。 关联规则基本模型（续） 关联规则是形如X?Y的逻辑蕴含式，其中X?I，Y?I，且X?Y=?。如果事务数据库D中有s%的事务包含X?Y，则称关联规则X?Y的支持度为s%，实际上，支持度是一个概率值。若项集X的支持度记为support (X)，规则的信任度为support (X?Y)／support (X)。这是一个条件概率P (Y | X)。也就是： support (X?Y)=P (X ?Y) confidence (X?Y)=P (Y | X) 关联规则基本模型（续） 关联规则就是支持度和信任度分别满足用户给定阈值的规则。 发现关联规则需要经历如下两个步骤： 找出所有频繁项集。 由频繁项集生成满足最小信任度阈值的规则。 Apriori算法的步骤 Apriori算法命名源于算法使用了频繁项集性质的先验（Prior）知识。 Apriori算法将发现关联规则的过程分为两个步骤： 通过迭代，检索出事务数据库中的所有频繁项集，即支持度不低于用户设定的阈值的项集； 利用频繁项集构造出满足用户最小信任度的规则。 挖掘或识别出所有频繁项集是该算法的核心，占整个计算量的大部分。 频繁项集 为了避免计算所有项集的支持度（实际上频繁项集只占很少一部分），Apriori算法引入潜在频繁项集的概念。若潜在频繁k项集的集合记为Ck ，频繁k项集的集合记为Lk ，m个项目构成的k项集的集合为 ， 则三者之间满足关系Lk ?Ck ? 。构成潜在频繁项集所遵循的原则是“频繁项集的子集必为频繁项集”。 关联规则的性质： 性质6.1 频繁项集的子集必为频繁项集。 性质6.2 非频繁项集的超集一定是非频繁的。 Apriori算法运用性质6.1，通过已知的频繁项集构成长度更大的项集，并将其称为潜在频繁项集。潜在频繁k项集的集合Ck 是指由有可能成为频繁k项集的项集组成的集合。以后只需计算潜在频繁项集的支持度，而不必计算所有不同项集的支持度，因此在一定程度上减少了计算量。 Apriori算法 (1) L1={频繁1项集}; (2) for(k=2;Lk-1??;k++) do begin (3) Ck=apriori_gen(Lk-1); //新的潜在频繁项集 (4) for all transactions t?D do begin (5) Ct=subset(Ck,t); //t中包含的潜在频繁项集 (6) for all candidates c?Ct do (7) c.count++; (8) end; (9) Lk={c?Ck|c.count?minsup} (10) end; (11) Answer= LIG算法基本定义及定理 定义6.1 设T是事务数据库中的一个事务，T?D，称T中基本项的个数为事务T的规模，记为?T?。 定义6.2 若d是一个项集，将d中元素的个数称为该项集的长度，记为?d?。 定理6.1 在一个已知事务数量的数据集