[理学]数据挖掘关联规则挖掘.pptVIP

关联规则挖掘 * 1关联规则简介 数据挖掘是一项从大量的记录数据中提取有价值的、人们感兴趣的知识，这些知识是隐含的、事先未知的有用信息，提取的知识一般可表示为概念(Concepts)、规则(Rules)、规律(Regular ides)、模式(Patterns)等形式。 关联规则是当前数据挖掘研究的主要方法之一，它反映一个事物与其他事物之间的相互依存性和关联性。如果两个或者多个事物之间存在一定的关联关系，那么，其中一个事物就能够通过其他事物预测到。 典型的关联规则发现问题是对超市中的货篮数据（Market Basket）进行分析。通过发现顾客放入货篮中的不同商品之间的关系来分析顾客的购买习惯。 关联规则挖掘的目的：发现数据中的规律 超市中什么产品会一起购买？— 啤酒和尿布 在买了一台PC之后下一步会购买? 哪种DNA对这种药物敏感? 我们如何自动对Web文档进行分类? 2关联规则的基本概念 设I={i1, i2,…, im}为所有项目的集合，D为事务数据库，事务T是一个项目子集（T?I）。每一个事务具有唯一的事务标识TID。设A是一个由项目构成的集合，称为项集。事务T包含项集A，当且仅当A?T。如果项集A中包含k个项目，则称其为k项集。 项集A在事务数据库D中出现的次数占D中总事务的百分比叫做项集的支持度。如果项集的支持度超过用户给定的最小支持度阈值，就称该项集是频繁项集（或频集）。 关联规则的基本概念 关联规则是形如X?Y的逻辑蕴含式，其中X?I，Y?I，且X?Y=?。如果事务数据库D中有s%的事务包含X?Y，则称关联规则X?Y的支持度为s%，实际上，支持度是一个概率值。若项集X的支持度记为support (X)，规则的信任度为support (X?Y)／support (X)。这是一个条件概率P (Y | X)。 也就是： support (X?Y)=P (X ?Y) confidence (X?Y)=P (Y | X) 强关联规则 关联规则挖掘 发现关联规则需要经历如下两个步骤： 找出所有频繁项集。 由频繁项集生成满足最小信任度阈值的规则。 3关联规则的种类 3.1 基于规则中处理的变量的类别(关联规则可以分为布尔型和数值型) 布尔型关联规则处理的值都是离散的、种类化的，它显示了这些变量之间的关系；而数值型关联规则可以和多维关联或多层关联规则结合起来，可以对数值型字段进行处理，将其进行动态的分割，或者直接对原始的数据进行处理，当然数值型关联规则中也可以包含种类变量。 例如：性别=“女” ?职业=“秘书” ，是布尔型关联规则；性别=“女” ?收入=2300，涉及的收入是数值类型，所以是一个数值型关联规则。 3.2基于规则中数据的抽象层次（单层关联规则和多层关联规则） 在单层的关联规则中，所有的变量都没有考虑到现实的数据是具有多个不同的层次的；而在多层的关联规则中，对数据的多层性已经进行了充分的考虑。 例如：IBM台式机? Sony打印机，是一个细节数据上的单层关联规则；台式机? Sony打印机，是一个较高层次和细节层次之间的多层关联规则。 3.3基于规则中涉及到的数据的维数（关联规则可以分为单维的和多维的） 单维关联规则是处理单个属性中的一些关系；多维关联规则是处理各个属性之间的某些关系。 例如：啤酒=尿布，这条规则只涉及到用户的购买的物品；性别=“女”=职业=“秘书”，这条规则就涉及到两个字段的信息，是两个维上的一条关联规则。 4关联规则挖掘算法 Agrawal等人提出的AIS，Apriori和AprioriTid Cumulate和Stratify，Houstsma等人提出的SETM Park等人提出的DHP Savasere等人的PARTITION Han等人提出的不生成候选集直接生成频繁模式FPGrowth 其中最有效和有影响的算法为Apriori，DHP和PARTITION，FPGrowth。 4.1Apriori算法 Apriori算法命名源于算法使用了频繁项集性质的先验（Prior）知识。 Apriori算法将发现关联规则的过程分为两个步骤： 通过迭代，检索出事务数据库中的所有频繁项集，即支持度不低于用户设定的阈值的项集； 利用频繁项集构造出满足用户最小信任度的规则。 挖掘或识别出所有频繁项集是该算法的核心，占整个计算量的大部分。 关联规则的性质： 性质1：频繁项集的子集必为频繁项集。 性质2：非频繁项集的超集一定是非频繁的。 Apriori算法运用性质1，通过已知的频繁项集构成长度更大的项集，并将其称为潜在频繁项集。潜在频繁k项集的集合Ck 是指由有可能成为频繁k项集的项集组成的集合。以后只需计算潜在频繁项集的支持度，而不必计算所有不同项集的支持度，因此在一定程度上减少