[数学]现代统计分析--聚类分析.ppt

聚类分析 现代统计分析 -------聚类分析 基本内容 聚类分析的基本意义 距离和相似系数 谱系聚类分析（系统聚类法） 聚类分析的基本意义 一、一般分组与分类有如下的局限性 ： 1、一般地分类和分组主要靠经验和专业知识做定性分类处理，致使许多分类带有主观性和任意性 2、对于多指标、多因素的分类问题一般分析与分类的方法难于解决。 聚类分析的基本思想 根据一批样本的多个观测指标，具体找出一些能够量度样品或指标之间相似程度的统计量，并以这些统计量作为划分类型或分组的依据，将相似度很高的一些样品（指标）分别归类，然后这些归类逐级归并为更大的一类，直到所有样品（指标）聚合完毕。 聚类分析分类 Q型聚类： 是对样品进行分类处理。 R型聚类 ： 是对变量（指标）进行分类处理。 聚类分析分类 1、系统聚类方法（逐步的归类方法） 2、模糊聚类方法 　（将模糊数学的方法应用于定性变量的分类中） 3、K-均值法 　　将样品分成指定类的方法 4、有序样本的聚类 　　按次序的分类 5、分解法（从一类的逐步分解） 6、加入法（样品依次输入的方法） Q型聚类主要作用 可以综合利用多个变量的信息对样本进行分类 分类结果是直观的，聚类谱系图非常清晰的表 现其数值分类的结果 聚类分析所得到的结果比传统分析方法更细致、全面、合理。 距离和相似系数 （一）、样本特性的测量尺度 1、定类尺度 2、定序尺度 3、定距与定比尺度 样品的测量尺度 样本特性的测量尺度 当我们研究现象的分类时，设选用P个指标，N个样品就得如下的n×p的数据矩阵： X11，X12，... X1p X21，X22，... X2p . . . . . . . . Xn1，X n2，... Xnp 样本特性的测量尺度 对样本进行聚类时，我们把样品间的“靠近”程度由某种距离来描述； 对指标之间的靠近程度用相似系数来描述。 距离 在上面的矩阵表达式中，每个样品有P个指标，故可以看成是P维空间上的一个点，n个样品实际上就是p为空间上的n个点，而这些点之间的距离就是聚类的基本依据。 距离 若用dij 表现第i个样品与第j个样品之间的距离，一般地要求其满足如下的条件： 1、dij≧0 对于一切的i，j 2、dij=0 等价于样品i与样品j各个指标相同 3、dij=dji 对于一切的i，j 4、dij≦dik + dkj 对于一切的i，j，k 在聚类分析中有的距离并不满足条件4。 距离的缺点 距离的大小与指标的观测单位有关，有人为的主观性 没有考虑指标之间相关性的大小 距离缺点的处理－观测数据标准化 常见的距离 3、兰氏距离 常见的距离 一般选择欧氏距离作为聚类分析 的基本测量指标 相似系数 相似系数是在对样品的变量（指标）进行聚类时所采用的方法。当考察两个指标之间的相似程度时，用相似系数反映。用Ｃij表示第i个指标和第j个指标之间的相似系数。Ｃij的绝对值越大则表示指标i和指标j很相似，反之，二者就越疏远。 相似系数 Ｃij(1)= 相似系数 在空间的集合描述为：空间上ＡＢ与ＣＤ的相似性用夹角的余弦来表示。 相似系数 2、相关系数： Ｃij(2)= 相似系数 相似系数与距离的相互关系可以用下面的公式表达： 　　　　　　　dij2=1-Cij2 类和类的特征 定义1：T为一个阈值，如果对应任意的 有 定义2：对阈值T，如果对每个 类和类的特征 定义3：对于阈值T，V，如果： 定义4：对于阈值T，若对任意一个 类和类的特征 类的特征描述： 1、均值（或称为G的重心） 2、样本散布阵及协方差阵： 类和类的特征 3、G的直径： 类和类的特征 距离的求法： 1、最短距离法：（小中取小） Dk(p,q)=min{djl︱j∈Gp ,l∈Gq} 来表示Gp 与Gq 之间的距离 2、最长距离法（大中取小法） Dk(p,q)=max{djl︱j∈Gp ,l∈Gq} 类和类的特征 3、重心法: 4、类平均法: 类和类的特征 离差平方和法（略） 谱系聚类分析（系统聚类法） （一）、系统聚类法的基本步骤： 1、计算n个样品两两间的距离{ dij}，记为D={ dij} 2、构造n个类，每个类只包括一个样品 3、合并最近的两类为新类 4、计算新类与当前各类的距离，若类的距离等于