[模式识别03-聚类分析.pptVIP

* 济南大学 模式识别与智能系统研究所(R) * 类的定义、类间距离和聚类准则 聚类准则 类内、类间距离准则 聚类的基本目标：Tr[SB]?max；Tr[SW]?min 定义如下聚类准则： J1 = Tr[SW-1 SB] J2 = |SW-1 SB| J3 = Tr[SW-1 ST] J4 = |SW-1 ST| 思考：这些准则应该越大越好，还是越小越好？ Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 类的定义、类间距离和聚类准则 聚类准则 基于模式与类核距离的准则函数 前面是以一个点（类心）表示一类的位置并代替类核；缺点是：严重损失了各类在特征空间中所占子空间（类域）的形状和各类中各个模式在类域中的分布情况。 引入类核：Kj = K(x, Vj)，表示?j类的模式分布结构。其中Vj是?j的一个参数集，x是特征空间中一点。 还应该引入一个模式x与核Kj的距离以及准则函数；模式x与核Kj的距离依赖于Kj的构造。 d(x, Kl) = minj [d(x, Kj)] ? x ??l。 准则函数（显然，JK?min）： * 济南大学 模式识别与智能系统研究所(R) * Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. * 济南大学 模式识别与智能系统研究所(R) * 目录 复习 说明 模式相似性测度 类的定义、类间距离和聚类准则 聚类算法 总结和作业 Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 聚类算法 概述 聚类算法有许多具体算法。从算法算法的基本策略看，可以分为三类： 根据相似性阈值和最小距离原则的简单聚类方法。 首先需要确定各聚类中心。 按照最小距离原则不断将两类进行合并。 各个模式首先自成一类，然后将距离最小的两类合并成一类。此过程不断重复，直至满足条件。 该算法类心不断修正，但模式类别一旦指定就不再改变。 依据准则函数的动态聚类法 是一个准则函数取极值的优化过程。 类心不断修正，各模式类别有不断改变。例如C-均值、ISODATA法、近邻函数法等 * 济南大学 模式识别与智能系统研究所(R) * Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 聚类算法 相似性阈值和最小距离准则的简单聚类法（1） 基本思想：计算各个特征矢量到聚类中心的距离并和阈值（门限）T进行比较，决定归属哪一类或作为新的一个类心。常用欧氏距离。 算法原理： (1) 取任意一个模式特征向量作为第一个聚类中心。例如，令?1类的中心z1 = x1。 (2) 计算下一个模式特征矢量x2到z1的距离d21。如果d21T，则建立新的一类?2，其中心z2=x2；若d21?T，则x2??1。 * 济南大学 模式识别与智能系统研究所(R) * Evaluation only. Created with Aspose.Slides for .NET 3.5 Client Profile 5.2.0.0. Copyright 2004-2011 Aspose Pty Ltd. 聚类算法 相似性阈值和最小距离准则的简单聚类法（2） (3) 假如已有聚类中心z1, z2, …, zk, 计算尚未确定类别的模式特征矢量xi到各类别中心zj(j=1, 2, …, k)的距离dij。若dijT（j=1,2,…,k），则xi作为新的一类?k+1的中心，zk+1=xi；否则，如果dl = minj [dij]，则指判xi??l。检查是否所有的模式都分划完类别，如果分划完毕则结束；否则返回(3)。 性能分析： 计算简单。 类心一经确定不再改变，模式一旦指判也不改变；故依赖于距离门限选取、待分类特征矢量参与分类的次序即聚类中心的选取等。参数和次序不同，结果可能会有差别。 当有特征矢量先验知识来指导门限T及初始中心z1的选取时，往往结果合理。 * 济南大学 模式识别与智能系统研究所(R) * Evaluation only. Created with