8.聚类技术总结.ppt

* * 数 学 建 模 华中农业大学数学建模基地系列课件 聚类分析又称群分析，它是研究分类问题的一 种多元统计方法。所谓类，通俗地说，就是指相似 元素的集合。那么要将相似元素聚为一类，通常选 取元素的许多共同指标，然后通过分析元素的指标 值来分辨元素间的差距，从而达到分类的目的。 聚类分析可以分为：Q型（样品分类）分类、 R型（指标分类）分类。这里介绍的是Q型（样 品分类）分类。 聚类分析 1)确定聚类类型： 对样品聚类称Q型聚类；对变量聚类称R型聚类。 2)数据预处理 原因：实际应用所使用的样本资料中，由于不同 的变量具有不同的计量单位（或量纲），并且具 有不同的数量级，为了使具有不同计量单位和数 量级的数据能够放在一起进行比较分析，通常都 要对数据进行变换处理。 聚类分析前的预处理步骤： 常用方法有：中心化变换；规格化变换（极差正规化）；标准化变换；对数变换等 3) 研究样品之间的关系。通常有两种方法： 相似系数 性质相近的相似系数的绝对值越接近于1， 彼此不相关的相似系数的绝对值越接近于0。 常用相似系数有： 夹角余弦；相关系数；指数相似系数； 非参数方法 计算距离 将样品看作P维空间的一点，通过计算不同样品 的距离，距离越接近的点归为一类，距离远的点 归为不同类。 常用距离有： 明科夫斯基距离；欧氏距离；绝对值距离； 切比雪夫距离；兰氏距离；马氏距离。 4)计算距离矩阵或相似性系数矩阵D。 聚类分析的一般步骤(Q-型分类) 2) 由距离矩阵或相似性系数矩阵D，找到当前 最小的Dij, 并将类Gi、Gj合为一类得到一个新类 Gr={Gi、Gj} 3) 从新计算类间的距离，得到新的矩阵D。 4) 重复第2步直到全部合为一类。 1) 每个样本独自成类， 进行聚类分析时，由于对类与类之间的距离的定义和理解不同，并类的过程中又会产生不同的聚类方法。常用的系统聚类方法有8种：最短距离法(sin)； 最长距离法(com)；中间距离法(med)；重心法(cen)；类平均法(ave)；可变类平均法(fle)；可变法；离差平方和法(ward)。 例：从21个工厂中抽出同类产品，每个产品测两个指标，欲将各厂的质量情况进行分类。 工厂指标观测值 3 0 1 2 1 3 4 3 5 5 6 指标2 -4 7 6 6 5 4 4 2 2 0 0 指标1 11 10 9 8 7 6 5 4 3 2 1 工厂 -5 -3 -1 -2 -1 1 2 0 2 2 指标2 -3 -1 -1 0 0 1 -5 -3 -3 -2 指标1 21 20 19 18 17 16 15 14 13 12 工厂 data ex;input x1 x2 factory$@@; /*$：表示字符型变量*/ cards; /*数据省略*/ ; proc cluster /*系统聚类*/ data=ex method=ward ccc pseudo outtree=tree; id factory; run; proc tree data=tree horizontal; /*水平树*/ id factory; /*工厂为样本*/ run; ccc表示要计算半偏R2，R2和ccc立方聚类标准 统计量，这三个统计量和下面的伪F和伪t2统计量， 主要用于检验聚类的效果。当把数据从G+1类合并 为G类时，半偏R2统计量说明了本次合并信息的损 失程度，统计量大表明损失程度大。 R2统计量反映 类内离差平方和的大小，统计量大表明类内离差平 方和小。 ccc统计量的值大说明聚类的效果好。 Pseudo说明要计算伪F和伪t2统计量。一般认为， 伪F统计量出现峰值时的所对应的分类是较佳的分类 选择。当把数据从G+1类合并为G类时，伪t2统计量 的值大，说明不应该合并这两类。 * * *