第7讲 常用聚类方法介绍.pptVIP

ISODATA算法的第1步 设定聚类控制参数 选定初始聚类中心 返回 设定聚类控制参数 c=预期的类数 Nc=聚类中心个数（可以不等于c） ?n=每一类中允许的最少样本数目 ?s=类内各分量分布的标准差上限 ?D=两类中心间的最小距离下限 L=在每次迭代中可合并类的最多对数 I=允许的最多迭代次数 返回 选定初始聚类中心 读入待分类样本X1, X 2,…, XN 从 {Xi}中任选Nc个样本作为初始聚类中心zj (j=1,2,…, Nc) 返回 ISODATA算法的第2步 按最小距离原则将样本集{Xi}中每个样本分到某一类中，即： 如果 , 则判Xi ??l 其中 返回 求解过程 第1步，第2步，第3步，第4步 第5步，第6步，第7步，第8步 第9步，第10步 返回 求解过程第1步 令k=0, m=N, 每个样本自成一类，即： 返回 求解过程第2步 按欧氏距离计算矩阵D(0) 如下： 返回 ? 0 ? ? ? ? ? 0 ? ? ? ? 0 ? ? ? 0 ? ? 0 ? 0 求解过程第3步 D(0)中最小阵元为 ，它是 与 之间的距离，将它们合并为一类，得一新的分类为： 返回 求解过程第4步 计算合并后的距离矩阵D(1) 如下: 返回 ? 0 ? ? ? ? 0 ? ? ? 0 ? ? 0 ? 0 求解过程第5步 D(1)中距离最小者为 ，它是 与 间的距离，合并它们得新的分类： 返回 求解过程第6步 计算合并后的距离矩阵D(2)如下: 返回 ? 0 ? ? ? 0 ? ? 0 ? 0 求解过程第7步 D(2)中距离最小者为 ，它是 与 间的距离，合并它们得新的分类： 返回 求解过程第8步 计算合并后的距离矩阵D(3)如下: 返回 ? 0 ? ? 0 ? 0 求解过程第9步 距离矩阵D(3)可知， 、 和 距离相同，所以有两种合并方式： 或 返回 求解过程第10步 最终聚类结果为： {{{{X1,X2}, X4}, X3},{X5,X6}} 或： {{{X1,X2}, X4},{X3,{X5,X6}}} 试对上述两个结果划出树图。 返回 其它聚类算法 简单聚类方法 最大最小距离算法 ISODATA算法 近邻函数法 自组织特征映射 …… 返回 简单聚类方法 简单聚类方法的基本思想 简单聚类方法的计算过程 简单聚类方法的特点 简单聚类方法的改进 返回 简单聚类方法的基本思想 计算样本到聚类中心的距离并和门限T比较，决定归属哪类或作为新的一类中心。 通常使用欧氏距离。 返回 简单聚类方法的计算过程 将待分类的样本记为{X1, X 2,…, X N}，选定类内距离门限T； 取任意一个样本作为第一个聚类中心。例如，令?1类的中心Z1= X1； 计算下一个样本X 2到Z1的距离d21；若d21T，则建立新的一类?2，其中心Z2= X2；若d21?T，则X2 ??1； 假设已有聚类中心Z1, Z2,…, Zk，计算尚未确定类别的样本Xi到各聚类中心Zj（j=1,2,…,k）的距离dij。如果dijT（j=1,2,…,k），则Xi作为新的一类的中心Zk+1 =Xi；否则，如果 ，则指判Xi??l；检查是否所有的样本都分划类别，如果是则结束；否则返回到第4步。 返回 简单聚类方法的特点 类心选定后在聚类过程中就不再改变。 样本指判类别后在聚类过程中也不再改变。 聚类结果很大程度上依赖于距离门限T的选取和待分类样本参与分类的次序。 当有样本分布的先验知识来指导门限T及初始中心Z1的选取时，可以获得较合理的结果。 返回 距离门限和样本次序的影响示意图 返回 简单聚类方法的改进 选用不同的门限及模式输入次序来尝试分类，并对聚类结果进行检验。最后对各种方案的划分结果进行比较，选取最好的一种聚类结果。 返回 最大最小距离算法 最大最小距离算法的基本思想 最大最小距离算法的计算过程 最大最小距离算法的特点 最大最小距离算法举例 返回 最大最小距离算法的基本思想 在样本集中以最大距离原则选取新的聚类中心，以最小距离原则进行模式归类。 通