软件分析-2017年11月.PDFVIP

软件分析 聚类、挖掘和搜索 熊英飞 北京大学 2016 聚类 2 聚类 • 把数据按相似度分类 • 最常见的无监督学习方法 n • 如何衡量相似度 d (x, y)  (x  y )2 欧氏距离 euc i i • 欧氏距离 i1 • 协方差 n (x  x)(y  y) i i • 如何分类 (x,y)  n i1 n 协方差 2 2 (x  x) (y  y) i i • k-means i1 i1 • 层次聚类 3 K-Means • 输入：数据集，聚类数量k • 算法 • 随机分类k个数据到k个类别，每个数据成为该类别的 中点 • 对于每个数据 • 计算该数据到每个类别中心的距离 • 将该数据加入最近的类别 • 重新计算该类别的中点 4 K-Means优缺点 • 优点：简单快速 • 缺点： • 需要指定k • 一开始的随机选点对结果影响很大 • 必须能计算中点 • 针对前两个缺点有若干改进算法 • 尝试多组k或者随机选点，选出较好的（即每个类别 中的点互相接近） • 允许拆分和重新组合类别 5 层次聚类 • 一开始每一个数据是一个类别 • 每次合并两个最相似的类别 • 如何衡量类别的相似性？ • 中点的距离 • 任意两点的最短距离 • 任意两点的最大距离 • …… • 到达停止条件时结束 • 类别数量少于等于k • 类别之间的距离都大于等于d 6 层次聚类优缺点 • 优点： • 可不计算中点 • 终止条件更灵活 • 缺点： • 计算比较慢 7 聚类的应用： 编译器测试排序 • 首先对选择特征，然后基于选择后的特征聚类 • 利用分类器排序的时候，先对类别按类别中最大 值进行排序，然后依次从各个类别中选择最优测 试输入 • 整体可以获得更稳定的输出 8 频繁模式挖掘