关联分析基本概念与算法幻灯片.ppt

挖掘关联模式的研究问题 FP增长（FP-growth）算法 关联模式的评估（Pattern Evaluation） 关联分析算法往往产生大量的规则，而其中很大一部分可能是不感兴趣的。 因此，建立一组广泛接受的评价关联模式质量的标准是非常重要的。 第一组标准可以通过统计论据建立。涉及相互独立的项或覆盖少量事务的模式被认为是不令人感兴趣的，因为它们可能反映数据中的伪联系。 这些令人感兴趣的模式可以使用客观兴趣度度量来排除。 第二组标准可以通过主观论据建立。一个模式被主观认为是无趣的，除非它能够揭示料想不到的信息或提供导致有益的行动的有用信息。 例如：{黄油} ?{面包}可能不是有趣的，尽管有很高的支持度和置信度，但是它表示的关系显而易见。另一方面，规则{尿布} ?{啤酒}是有趣的，因为这种联系十分出乎意料，并且可能为零售商提供新的交叉销售机会。 将主观知识加入到模式的评价中是一项困难的任务，因为需要来自领域专家的大量先验信息。下面是一些将主观信息加入到模式发现任务中的方法。 兴趣度客观度量（objective interestingness measure） 客观兴趣度度量使用从数据推导出的统计量来确定模式是否是有趣的。 客观兴趣度度量的例子包括支持度、置信度、相关性。 给定一个规则 X ? Y, 我们可以构建一个相依表（contingency table）。 Y Y X f11 f10 f1+ X f01 f00 fo+ f+1 f+0 |T| Contingency table for X ? Y 支持度-置信度框架的局限性 现有的关联规则的挖掘算法依赖于支持度和置信度来除去没有意义的模式。 例子：假定希望分析爱喝咖啡和爱喝茶的人之间的关系。收集一组人关于饮料偏爱的信息，并汇总到下表6-8。 Coffee Coffee Tea 150 50 200 Tea 650 150 800 800 200 1000 支持度-置信度框架的局限性 可以使用表中给出的信息来评估关系规则{茶} ?{咖啡}。 似乎喜欢喝茶的人也喜欢喝咖啡，因为该规则的支持度（15%）和置信度（75%）都相当高。 但是所有人中，不管他是否喝茶，喝咖啡的人的比例为80%。这意味着，一个人如果喝茶，则他喝咖啡的可能性由80%减到了75%。 置信度的缺点在于该度量忽略了规则后件中项集的支持度。 由于支持度-置信度框架的局限性，各种客观度量已经用来评估关联模式。下面，简略介绍这些度量并解释它们的优点和局限性。 兴趣因子 相关分析 IS度量 兴趣因子 茶和咖啡的例子表明，由于置信度度量忽略了规则后件中出现的项集的支持度，高置信度的规则有时存在误导。 解决这个问题的一种方法是使用称作提升度（lift）的度量： 它计算规则置信度和规则后件中项集的支持度之间的比率 对于二元变量，提升度等价于另一种称作兴趣因子（interest factor）的客观度量，其定义如下： 对于相互独立的两个变量，I(A,B)=1。如果A和B是正相关的,则I(A,B)1。对于表6-8中的例子，I=0.15/(0.2*0.8)=0.9375, 这表明存在负相关。 兴趣因子的局限性 表6-9显示了两个词{p,q}和{r,s}出现的频率。{p,q}和{r,s}的兴趣因子分别为1.02和4.08. 这表明虽然p和q同时出现在88%的文档中，但是它们的兴趣因子接近于1，表明二者是相互独立的。另一方面，{r,s}的兴趣因子比{p,q}的高，尽管r和s很少同时出现在同一个文档中。 这种情况下，置信度可能是一个更好的选择，因为置信度表明p和q之间的关联（94.6%）远远强于r和s之间的关联（28.6%）. 表6-9 p p q 880 50 930 q 50 20 70 930 70 1000 r r s 20 50 70 s 50 880 930 70 930 1000 相关分析 对于二元变量，相关度可以用以下公式表示。 相关度的值从-1（完全负相关）到+1（完全正相关）。如果变量是统计独立的，则值为0.例如：在表6-8中给出的饮茶者和喝咖啡者之间的相关度为-0.0625。 相关分析的局限性 相关性的缺点通过表6-9所给出词的关联可以看出.虽然p和q同时出现的次数比r和s更多，但是它们的￠系数是相同的，都等于0.232。 这是因为，这种方法把项在事务中出现和同时不出现视为同等重要。因此，它更适合于分析对称的二元变量。 这种度量的另一个局限性是，当样本大小成比例变化时，