聚类分析课件.pptVIP

K 均值聚类分析 ? 第二步：计算某个样品到各类中心的欧氏平方距离，然后将 ? ? ? 该样品分配给最近的一类。对于样品有变动的类，重新计算 它们的中心坐标，为下一步聚类做准备。 先计算 A 到两个类的平方距离： 2 2 2 d ( A , ( AB )) ? ( 5 ? 2 ) ? ( 3 ? 2 ) ? 10 2 2 2 d ( A , ( CD )) ? ( 5 ? 1 ) ? ( 3 ? 2 ) ? 61 由于 A 到（ A 、 B ）的距离小于到（ C 、 D ）的距离，因此 A 不用重新分配； 计算 B 到两类的平方距离： 2 2 2 d ( B , ( AB )) ? ( ? 1 ? 2 ) ? ( 1 ? 2 ) ? 10 2 2 2 d ( B , ( CD )) ? ( ? 1 ? 1 ) ? ( 1 ? 2 ) ? 9 对 C 、 D 同样（略） K 均值聚类分析 ? 由于 B 到（ A 、 B ）的距离大于到（ C 、 D ）的距离，因此 B 要 分配给（ C 、 D ）类，得到新的聚类是（ A ）和（ B 、 C 、 D ） ? 更新中心坐标： 聚类 （ A ） （ B 、 C 、 D ） 中心坐标 X 1 5 -1 X 2 3 -1 K 均值聚类分析 ? 第三步：再次检查每个样品，以决定是否需要重新分类。计 算各样品到各中心的距离平方： 样品到中心的距离平方 聚类 A B C D 0 40 41 89 （ A ） 52 4 5 5 C 、 D ） （ B 、 ? 发现：每个样品都已经分配给距离中心最近的类，聚类过 程到此结束 ? 最终得到 K=2 的聚类结果是 A 独自成一类， B 、 C 、 D 聚成 一类 K 均值聚类分析 ? 系统聚类与 K 均值聚类都是距离度量类聚类方法 ? 系统聚类对不同的类数产生一系列的聚类结果 ? K — 均值法只能产生指定类数的聚类结果 ? 具体类数的确定？ ? 实践经验的积累（机理研究） ? 借助系统聚类法以一部分样品为对象进行聚类，其结果作为 K — 均值法确定类数的参考 K 均值聚类分析 ? 优点 : 相对有效性 : O ( tkn ), 其中 n 是对象数目 , k 是簇数目 , t 是迭代次数 ; 通常： k , t n . ? 比较 : PAM: O(k(n-k) 2 ), CLARA: O(ks 2 + k(n-k)) ? PAM (Partitioning Around Medoid, 围绕代表点的划分 ) ? CLARA (Clustering LARge Applications) ? 当结果簇是密集的，而簇与簇之间区别明显时，它的效果 较好 K 均值聚类分析 ? 弱点 ? 只有在簇的平均值 ( mean) 被定义的情况下才能使用 . 可 能不适用于某些应用 ? 涉及有分类属性的数据 ? 需要预先指定簇的数目 k ? 不能处理噪音数据和孤立点 ( outliers ) ? 常常终止于 局部最优（ 初值依赖 ） . ? 尝试不同的初值 ? 全局最优 可以使用诸如 模拟退火 ( simulated annealing) 和 遗 传算法 ( genetic algorithms ) 等技术得到 K 均值聚类分析 ? K 均值方法的变种 , 它们在以下方面有所不同 ? 初始 k 个平均值的选择 ? 距离的度量 ? 计算聚类平均值的策略 ? 处理分类属性 : k- 模 ( k-modes ) 方法 (Huang98) ? 用模 (modes 众数 ) 替代聚类的平均值 ? 使用新的距离度量方法来处理分类对象 ? 用基于频率的方法 ? k- 原型 ( k-prototype ) 方法 : k- 平均和 k- 模的结合 , 处理具有数 值和分类属性的数据 R codes 一 例一 二 例二 例 一 ? 设有 20 个土壤样品分别对 5 个变量的观测数据如表所示，试 利用系统聚类法对其进行样品聚类分析。 表 土壤样本的观测数据 样品号 1 2 3 4 5 6 7 8 含沙量 淤泥含量 粘土含量 有机物 X 1 77.3 82.5 66.9 47.2 65.3 83.3