bigdata数据挖掘培训3.pptVIP

CURE 不能处理不同密度的簇 Original Points CURE 第九十五页，共一百二十四页。 层次聚类Hierarchical Clustering: Nested Clusters Dendrogram 树状图 1 2 3 4 5 6 1 2 3 4 5 第六十三页，共一百二十四页。 层次方法 将嵌套定义的簇集组成一棵层次形式的树 按照分裂方式可分为： 凝聚的 把每个点都作为一个簇，开始聚类 每一步合并两个最近的簇，直到只剩下一个簇 分裂的 所有的点看做一个簇 每一步，分裂一个簇， 直到每个点都是一个簇 第六十四页，共一百二十四页。 层次聚类方法 利用相似度或距离矩阵作为聚类标准. 这种方法不需要提供k值，但是必须提供中止条件 Step 0 Step 1 Step 2 Step 3 Step 4 b d c e a a b d e c d e a b c d e Step 4 Step 3 Step 2 Step 1 Step 0 凝聚的 (AGNES) 分裂的 (DIANA) 第六十五页，共一百二十四页。 AGNES (凝聚的层次聚类) Kaufmann and Rousseeuw (1990) 将具有最少相异性的点合并 将这些簇合并成越来越大的簇 直到所有终结条件被满足 第六十六页，共一百二十四页。 DIANA (分裂的层次聚类) Kaufmann and Rousseeuw (1990) 与 AGNES刚好相反 直到每个对象自成一簇 第六十七页，共一百二十四页。 基本层次凝聚聚类 基本算法简单直接： 计算相似度矩阵（或邻近矩阵） 以每个点为一个簇 Repeat 合并最近的两个簇 更新相似度矩阵 Until 仅剩下一个簇 关键操作: 计算两个簇间的相似度 有多种方法度量距离或者相似度 第六十八页，共一百二十四页。 简单直接的凝聚聚类 初始，每个点都为一个簇集，计算邻近矩阵 p1 p3 p5 p4 p2 p1 p2 p3 p4 p5 . . . . . . Proximity Matrix 第六十九页，共一百二十四页。 中间过程 经若干次合并后 C1 C4 C2 C5 C3 C2 C1 C1 C3 C5 C4 C2 C3 C4 C5 Proximity Matrix 第七十页，共一百二十四页。 中间过程 合并C2与C5，更新矩阵 C1 C4 C2 C5 C3 C2 C1 C1 C3 C5 C4 C2 C3 C4 C5 Proximity Matrix 第七十一页，共一百二十四页。 合并后 问题： “如何更新矩阵?” C1 C4 C2 U C5 C3 ? ? ? ? ? ? ? C2 U C5 C1 C1 C3 C4 C2 U C5 C3 C4 Proximity Matrix 第七十二页，共一百二十四页。 如何度量簇间距离（相似性） p1 p3 p5 p4 p2 p1 p2 p3 p4 p5 . . . . . . Similarity? 最小距离 最大距离 均值距离 中心点间距离 其他 Proximity Matrix 第七十三页，共一百二十四页。 How to Define Inter-Cluster Similarity p1 p3 p5 p4 p2 p1 p2 p3 p4 p5 . . . . . . Proximity Matrix 最小距离 最大距离 均值距离 中心点间距离 其他 第七十四页，共一百二十四页。 How to Define Inter-Cluster Similarity p1 p3 p5 p4 p2 p1 p2 p3 p4 p5 . . . . . . Proximity Matrix 最小距离 最大距离 均值距离 中心点间距离 其他 第七十五页，共一百二十四页。 How to Define Inter-Cluster Similarity p1 p3 p5 p4 p2 p1 p2 p3 p4 p5 . . . . . . Proximity Matrix 最小距离 最大距离 均值距离 中心点间距离 其他 两个极端 折中 第七十六页，共一百二十四页。 How to Define Inter-Cluster Similarity p1 p3 p5 p4 p2 p1 p2 p3 p4 p5 . . . . . . Proximity Matrix 最小距离 最大距离 均值距离 中心点间距离 其他 ? ? 第七十七页，共一百二十四页。 最近邻聚类与单连接算法 最近邻：以最小距离度量簇间距离 单连接：最近的簇间距离超过某个阈值聚类就会终止 1 2 3 4 5 第七十八页，共一百二十