快速聚类法简介.pptVIP

基本思想是，样本容量较大时，选择一批凝聚点或给出一个初始的分类，让样品按某种原则向凝聚点凝聚，对凝聚点进行不断的修改或迭代，直至分类比较合理或迭代稳定为止。 动态聚类法有许多种方法，本节中，只讨论一种比较流行的动态聚类法——k均值法。k均值法是由麦奎因(MacQueen,1967)提出并命名的一种算法。 §6.3快速聚类法(动态聚类法) 类的个数k可以事先指定，也可以在聚类过程中确定。选择初始凝聚点(或给出初始分类)的一种简单方法是采用随机抽选(或随机分割)样品的方法。 选择凝聚点 分 类 修改分类 分类是否合理 分类结束 Yes No 用一个简单的例子来说明动态聚类法的工作过程。例如我们要把图中的点分成两类。快速聚类的步骤： （a）空间的群点 (b) 任取两个聚点 (c) 第一次分类 (d) 求各类中心 (b) (e) 第二次分类 5.对空间中的点进行重新分类，得到新分类, 图(e). 1. 快速聚类法的步骤 (1) 选择聚点 3) 最小最大原则 这样按密度大小考察下去，所选代表点间的距离都大于d1。 d1太小，代表点太多，d1太大，代表点太少， 一般选d1＝2d。对代表点内的密度一般要求 大于T。T0为规定的一个正数。 4)按密度大小选代表点： 以每个样本作为球心，以d为半径做球形;落在球 内的样本数称为该点的密度,并按密度大小排序。 首先选密度最大的作为第一个代表点，即第 一个聚类中心, 再考虑第二大密度点，若第二大密度点距第 一代表点的距离大于d1（人为规定的正数）则把 第二大密度点作为第二代表点,否则不能作为代 表点。 (2) 此后过程(假设采用欧氏距离) 5) 用前k个样本点作为代表点 当m增大，分类趋于稳定时， 实际计算，当m步与m+1步分类结果完全相同时， 聚类过程结束。 结论: (1)中心向量=中位向量(有较强的稳健性) (2)中心向量=均值向量. 解: 初始聚点 最终结果(部分) 相关信息 中位数向量 类间距离 ① 选一批代表点后，代表点就是聚类中心，计算其它样本到聚类中心的距离，把所有样本归于最近的聚类中心点，形成初始分类，再重新计算各聚类中心，称为成批处理法。 ② 选一批代表点后,依次计算其它样本的归类，当计算完第一个样本时，把它归于最近的一类，形成新的分类。再计算新的聚类中心，再计算第二个样本到新的聚类中心的距离，对第二个样本归类。即每个样本的归类都改变一次聚类中心。此法称为逐个处理法。 ③ 直接用样本进行初始分类，先规定距离d,把第一个样品作为第一类的聚类中心，考察第二个样本，若第二个样本距第一个聚类中心距离小于d，就把第二个样本归于第一类，否则第二个样本就成为第二类的聚类中心，再考虑其它样本，根据样本到聚类中心距离大于还是小于d，决定分裂还是合并。 三、初始分类和调整 最佳初始分类。 如图所示，随着初始分类k的增大，准则函数下降很快，经过拐点A后，下降速度减慢。拐点A就是最佳初始分类。