系统聚类法及其应用研究.docx

2014 年 6 月第 28 卷第 2 期阴 山 学 刊YINSHAN ACADEMIC JOUＲNALJun． 2014 Vo1． 28No． 2系统聚类法及其应用研究*田兵( 包头师范学院 《阴山学刊》编辑部，内蒙古 包头 014030)摘 要: 本文介绍了系统聚类法的基本思想和常用方法以及优缺点，然后举例说明了其在具体问题中的应用。关键词: 聚类分析; 系统聚类法; 最短距离法、最长距离法、中间距离法、类平均法、重心法、离差平方和法 中图分类号: O213 文献标识码: A 文章编号: 1004 － 1869( 2014) 02 － 0011 － 06 DOI:10.13388/j.cnki.ysajs.2014.02.003聚类分析是将样本进行分类的一种统计方法。 它是根据样本数据计算样本之间的距离 ( 相似程式为:DMJ =mini∈GM，j∈GJdij度) ，将距离较近的样本归为同一类，不同类别的样本距离相对较远。聚类分析的内容包含十分广泛，= min{mini∈GK，j∈GJdij ， mini∈GL，j∈GJdij }有系统聚类法、动态聚类法、分裂法、最优分割法、模 糊聚类法、图论聚类法、聚类预报等多种方法。系统聚类法也称层次聚类，是聚类分析许多方 法中用的最多的一种，其基本思想是: 开始将 n 个样= min{ DKL ，DLJ } ．1． 2最长距离法定义类与类之间的距离为两类最远样本间的距 离，即本各自作为一类，并规定样本之间的距离和类与类DKL =maxi∈Gk，j∈GLdij之间的距离，然后将距离最近的两类合并成一个新称这种系统聚类法为最短距离法。类，计算新类与其他类的距离; 重复进行两个最近类 的合并，每次减少一类，直至所有的样本合并为一当某步骤类 GK 和 GL 类 GJ 的距离为:合并为 GM 后，则 GM与任一类。根据所定义的类与类的距离，系统聚类法可以DMJ= max{ DKL，DLJ } ．分为最短距离法、最长距离法、中间距离法、类平均法、重心法、离差平方和法。1． 3中间距离法定义类与类之间的距离取介于上述最短距离和1常用的系统聚类法最长距离的中间距离。设某一步将 GK和 GL合并为1． 1最短距离法GM ，对于任一类 GJ 考虑由 DKL，DLJ，DKJ为边长组成定义类与类之间的距离为两类最近样本间的距离，即的三角形，取 DKL 边的中线作为 DMJ ，由初等平面几何可知，DKL =mini∈Gk，j∈GLdijMJ = 1 2D+KJ 1 2D－LJ 1 2DKLD2称这种系统聚类法为最短距离法。其中用 dij． 表示第 i 个样本与第 j 个样本的距离，G1 ，G2 ，… 表示类，DKL 表示 Gk 与 GL 的距离。当某步骤类 GK 和 GL 合并为 GM 后，按最短距离 法计算新类 GM 与其他类 GJ 的类间距离，其递推公224称这种系统聚类法为中间距离法。1． 4类平均法类平均法有两种定义，一种定义方法是把类与 类之间的距离定义为所有样本对之间的平均距离，*收稿日期: 2014 － 04 － 12作者简介: 田兵( 1982 － ) ，男，山西五台人，编辑，理学硕士，研究方向: 数理统计。即定义 GK 和 GL 之间的距离为 1 GK 和 GL 这两类相距较近，则合并后所增加的离差平方和 WM —WK —WL 应较小，否则较大。于是定义 GKnDKL =K∑nL i∈Gk，j∈GLdij和 GL 之间的平方距离为其中 nK 和 nL 分别为 GK 和 GL 的样本个数，dij 为 GK 中样本 i 与 GL 中样本 j 之间的距离。它的递推公式为: 1 KL = WM － WK － WL ，D2这种系统聚类法称为离差平方和法。它的递推公式nDMJ =M∑nJ i∈GM，j∈GJdij为2nJ + nK 2nJ + nL 2nJ2=1 (∑dij +∑ dij )DMJ =nJ + nMDKJ +nJ+ nMDLJ －nJ+ n DKL ，nM nJnKi∈GK，j∈GJnLi∈GL，j∈GJGK 和 GL 之间的平方距离也可以写成MM= n DKJ + nDLJD2nK nL 珋珋 T 珋珋另一种定义方法是定义类与类之间的平方距离KL =( xK － xL )nM( xK － xL )为样本对之间平方距离的平均值，即可见，这个距离公式与重心法的距离公式只相差一个常数。重心法的类间距与两类的样本数无D212nnKL =K∑L i∈GK，j∈GLdij ，关，而离差平方和法的类间距与两类的样本数有较它的递推公式为大的关系，两个大类倾向于有较大的距离，因而不宜MMD2nK 2n