12第十二章聚类分析.ppt

第十三章 聚类分析 第四节 简单聚类方法 简单聚类方法的基本思想 简单聚类方法的计算过程 简单聚类方法的特点 简单聚类方法的改进 返回 简单聚类方法的基本思想 计算样本到聚类中心的距离并和门限T比较，决定归属哪类或作为新的一类中心。 通常使用欧氏距离。 返回 简单聚类方法的计算过程 将待分类的样本记为{X1, X 2,…, X N}，选定类内距离门限T； 取任意一个样本作为第一个聚类中心。例如，令?1类的中心Z1= X1； 计算下一个样本X 2到Z1的距离d21；若d21T，则建立新的一类?2，其中心Z2= X2；若d21?T，则X2 ??1； 假设已有聚类中心Z1, Z2,…, Zk，计算尚未确定类别的样本Xi到各聚类中心Zj（j=1,2,…,k）的距离dij。如果dijT（j=1,2,…,k），则Xi作为新的一类的中心Zk+1 =Xi；否则，如果 ，则指判Xi??l；检查是否所有的样本都分划类别，如果是则结束；否则返回到第4步。 返回 简单聚类方法的特点 类心选定后在聚类过程中就不再改变。 样本指判类别后在聚类过程中也不再改变。 聚类结果很大程度上依赖于距离门限T的选取和待分类样本参与分类的次序。 当有样本分布的先验知识来指导门限T及初始中心Z1的选取时，可以获得较合理的结果。 返回 距离门限和样本次序的影响示意图 返回 简单聚类方法的改进 选用不同的门限及模式输入次序来尝试分类，并对聚类结果进行检验。最后对各种方案的划分结果进行比较，选取最好的一种聚类结果。 最大最小距离算法 最大最小距离算法的基本思想 最大最小距离算法的计算过程 最大最小距离算法的特点 最大最小距离算法举例 返回 最大最小距离算法的基本思想 在样本集中以最大距离原则选取新的聚类中心，以最小距离原则进行模式归类。 通常使用欧氏距离。 返回 最大最小距离算法的计算过程 1. 选定比例系数?和初始聚类中心Z1和Z2 2. 计算各样本Xi到Z1和Z2的距离最小值di 3.计算{di }的最大值dl并判断Xl的归属 4.计算各样本Xi到当前所有聚类中心的距离最小值di及{di }最大值dl并判断Xl的归属 5.计算聚类结果 返回 最大最小距离算法的第1步 将待分样本记为{X1, X 2,…, X N}，选定比例系数?； 选取任一模式特征矢量作为第一个聚类中心Z1，例如Z1= X1； 从待分类矢量集中选出距离Z1最远的特征矢量作为第二个聚类中心Z2。 返回 最大最小距离算法的第2步 计算各 样本Xi与Z1和Z2之间的距离，并求出它们之中的最小值，即： 返回 最大最小距离算法的第3步 计算{di }的最大值 若 ，则相应的样本Xl作为第三个聚类中心Z3= Xl，然后转至第4步；否则，转至第5步。 返回 最大最小距离算法的第4步 设存在k个聚类中心Z1, Z2, …, Zk, 计算 各样本Xi到各聚类中心的距离： 计算出dij的最小值： 计算{di }的最大值 如果 ，则Zk+1= Xl并转至第4步；否则转至第5步。 返回 最大最小距离算法的第5步 在不再有新的聚类中心之后，将各样本X1, X 2,…, XN按最小距离原则分到各类中去，即计算： 如果 ，则判断 。 返回 最大最小距离算法的特点 聚类结果与参数?以及第一个聚类中心Z1的选取有关。 如果没有先验知识指导?和Z1的选取，可适当调整?和Z1，比较多次试探分类结果，选取最合理的一种聚类。 返回 最大最小距离算法举例 Z1= X1 Z2= X6 Z3= X7 返回 第三节 聚类求解计算 求解过程第1步 令k=0, m=N, 每个样本自成一类，即： 返回 求解过程第2步 按欧氏距离计算矩阵D(0) 如下： 返回 求解过程第3步 D(0)中最小阵元为 ，它是 与 之间的距离，将它们合并为一类，得一新的分类为： 返回 求解过程第4步 计算合并后的距离矩阵D(1) 如下: 返回 求解过程第5步 D(1)中距离最小者为 ，它是 与 间的距离，合并它们得新的分类： 返回 求解过程第6步 计算合并后的距离矩阵D(2)如下: 返回 求解过程第7步 D(2)中距离最小者为 ，它是 与