聚类分析-福建医科大学.PPT

数据挖掘导论 福建医科大学 郑伟成 第七章 聚类分析 本章关键词： 聚类，簇，模糊聚类、k均值； 本章重点： K-均值聚类 聚类的定义 聚类分析仅仅根据在数据中发现描述对象及其关系的信息，将数据对象分组。组内的用户之间是相似的（相关的），而组间的对象是不同的（不相关的）。 组内的相似度越大，组间的差异度越大，聚类就越好 聚类分析 聚类分析可以看做是一种“无监督”分类 同义词:分割、划分 聚类的差异 原始数据 分四类 分两类 分六类 划分聚类 层次聚类 不同的聚类类型 划分聚类 层次聚类 先分2簇 每簇各有两个子簇 层次聚类 传统层次聚类法 非传统层次聚类 树状图 树状图 互斥聚类 每个对象只能属于一个簇 重叠聚类 一个对象允许同时属于多个簇 在公司里：员工可以同时是领导 模糊聚类 对象以一个0-1的权值属于某簇 不同的聚类类型 互斥聚类 重叠聚类 0.1 0.1 0.7 0.1 明显分离的 基于中心的 基于邻近的 基于密度的 不同的簇类型 明显分离的簇，每个点到同簇中的任意点的距离比到不同簇中所有点距离更近 明显分离簇 簇中的任意点到该簇的中心的距离小于到其他任意簇中心的距离（球状簇） 基于中心的簇 每个点到该簇中至少一个点的距离比到不同簇中任意点更近 基于邻近的簇 基于密度的簇。簇是被低密度区域分开的高密度区域 通常用于有噪声的数据 基于密度的簇 K均值划分聚类是一种基于中心的簇 K均值法划分聚类 1、选择K个点作为质心 2、将每个点指派到最近的质心形成K个簇 3、重新计算每个簇的质心 4、重复2-3过程知道质心不再发生变化 基本K均值算法 将每个点指派到最近的质心形成K个簇 为了将点指派，必须度量“最近”的概念 对欧式空间向量使用欧几里得距离，曼哈顿距离 对文档使用余弦相似性，Jaccard相似度， 重新计算每个簇的质心 质心的选取： 欧几里得空间：均值 目标函数：误差平方和最小 文档数据：均值 目标函数：总凝聚度 算法具体实现 1、如果需要，计算邻近度矩阵 2、合并最近接的两个簇 3、更新邻近矩阵，反应心的簇与原来的簇直接的相似性 4、重复2-3直到只剩下一个簇 基本凝聚层次聚类 基本凝聚层次聚类