统计聚类分析.ppt

37 第十九章 聚类分析 （clustering analysis） 判别分析:在已知分为若干个类的前提下，获得判别模型，并用来判定观察对象的归属。 聚类分析:将随机现象归类的统计学方法，在不知道应分多少类合适的情况下，试图借助数理统计的方法用已收集到的资料找出研究对象的适当归类方法。已成为发掘海量基因信息的首选工具。 二者都是研究分类问题的多元统计分析方法。 聚类分析属于探索性统计分析方法，按照分类目的可分为两大类。 例如测量了n个病例（样品）的m个变量（指标），可进行：（1）R型聚类: 又称指标聚类，是指将m个指标归类的方法，其目的是将指标降维从而选择有代表性的指标。（2）Q型聚类: 又称样品聚类，是指将n个样品归类的方法，其目的是找出样品间的共性。 无论是R型聚类或是Q型聚类的关键是如何定义相似性，即如何把相似性数量化。聚类的第一步需要给出两个指标或两个样品间相似性的度量——相似系数（similarity coefficient）的定义。 第一节 相似系数1．R型（指标）聚类的相似系数 X1，X2，…，Xm表示m个变量，R型聚类常用简单相关系数的绝对值定义变量与间的相似系数： 绝对值越大表明两变量间相似程度越高。 同样也可考虑用Spearman秩相关系数定义非正态变量与间的相似系数。当变量均为定性变量时，最好用列联系数定义类间的相似系数。 2．Q型（样品）聚类常用相似系数 将n例（样品）看成是m维空间的n个点，用两点间的距离定义相似系数，距离越小表明两样品间相似程度越高。（1）欧氏距离: 欧氏距离（Euclidean distance） （2）绝对距离：绝对距离（Manhattan distance）（3）Minkowski距离：绝对距离是q=1时的Minkowski距离；欧氏距离是q=2时的Minkowski距离。Minkowski距离的优点是定义直观，计算简单；缺点是没有考虑到变量间的相关关系。基于此引进马氏距离。 （4）马氏距离：用表示m个变量间的样本协方差矩阵，马氏距离（Mahalanobis distance）的计算公式为 其中向量 。不难看出，当（单位矩阵）时，马氏距离就是欧氏距离的平方。 以上定义的4种距离适用于定量变量，对于定性变量和有序变量必须在数量化后方能应用。 第二节 系统聚类 系统聚类（hierarchical clustering analysis）是将相似的样品或变量归类的最常用方法，聚类过程如下：  1）开始将各个样品（或变量）独自视为一类，即各类 只含一个样品（或变量），计算类间相似系数矩阵，其中的元素是样品（或变量）间的相似系数。相似系数矩阵是对称矩阵；  2）将相似系数最大（距离最小或相关系数最大）的两类合并成新类，计算新类与其余类间相似系数； 重复第二步，直至全部样品（或变量）被并为一类。 一、类间相似系数的计算 系统聚类的每一步都要计算类间相似系数（即：新形成的类别与其他类之间的类间相似系数的确定），当两类各自仅含一个样品或变量时，两类间的相似系数即是两样品或变量间的相似系数或，按第一节的定义计算。 当类内含有两个或两个以上样品或变量时，计算类间相似系数有多种方法可供选择，下面列出5种计算方法。用分别表示两类，各自含有个样品或变量。(np与nq分别代表G p与Gq两类的样品或变量数)1．最大相似系数法 类中的个样品或变量与类中的个样品或变量两两间共有个相似系数，以其中最大者定义为与的类间相似系数。注意距离最小即相似系数最大。2．最小相似系数法 类间相似系数计算公式为3．重心法（仅用于样品聚类） 用分别表示的均值向量（重心），其分量是各个指标类内均数，类间相似系数计算公式为 4．类平均法（仅用于样品聚类） 对G p 类中的 np 个样品与Gq类中的nq个样品两两间的个平方距离求平均，得到两类间的相似系数类平均法是系统聚类方法中较好的方法之一，它充分反映了类内样品的个体信息。 5．离差平方和法 又称Ward法，仅用于样品聚类。 此法效仿方差分析的基本思想，即合理的分类使得类内离差平方和较小，而类间离差平方和较大。假定n