聚类动态聚类剖析.pptVIP

第六章 聚类分析 系统聚类分析 直观，易懂。 动态聚类 快速，动态。 有序聚类 保序(时间顺序或大小顺序)。 一、变量测量尺度的类型 为了将样本进行分类，就需要研究样品之间的关系；而为了将变量进行分类，就需要研究变量之间的关系。但无论是样品之间的关系，还是变量之间的关系，都是用变量来描述的，变量的类型不同，描述方法也就不同。通常，变量按照测量它们的尺度不同，可以分为三类。 (1)间隔尺度。指标度量时用数量来表示，其数值由测量或计数、统计得到，如长度、重量、收入、支出等。一般来说，计数得到的数量是离散数量，测量得到的数量是连续数量。在间隔尺度中如果存在绝对零点，又称比例尺度。 三、样品间亲疏程度的测度 研究样品或变量的亲疏程度的数量指标有两种，一种叫相似系数，性质越接近的变量或样品，它们的相似系数越接近于1或-1，而彼此无关的变量或样品它们的相似系数则越接近于0，相似的为一类，不相似的为不同类；另一种叫距离，它是将每一个样品看作p维空间的一个点，并用某种度量测量点与点之间的距离，距离较近的归为一类，距离较远的点应属于不同的类。 变量之间的聚类即R型聚类分析，常用相似系数来测度变量之间的亲疏程度。而样品之间的聚类即Q型聚类分析，则常用距离来测度样品之间的亲疏程度。 注:变量聚类放到因子分析后面 2、常用距离的算法 设 和 是第i和 j 个样品的观测值，则二者之间的距离 为：  闵科夫斯基距离主要有以下两个缺点： ①闵氏距离的值与各指标的量纲有关，而各指标计量单位的选择有一定的人为性和随意性，各变量计量单位的不同不仅使此距离的实际意义难以说清，而且，任何一个变量计量单位的改变都会使此距离的数值改变从而使该距离的数值依赖于各变量计量单位的选择。 ②闵氏距离的定义没有考虑各个变量之间的相关性和重要性。实际上，闵氏距离是把各个变量都同等看待，将两个样品在各个变量上的离差简单地进行了综合。 (3)兰氏距离 这是兰思和维廉姆斯(Lance Williams)所给定的一种距离，其计算公式为： (4)马氏距离 这是印度著名统计学家马哈拉诺比斯(P．C．Mahalanobis)所定义的一种距离，其计算公式为： (5) 斜交空间距离 由于各变量之间往往存在着不同的相关关系，用正交空间的距离来计算样本间的距离易变形，所以可以采用斜交空间距离。 2、相似系数的算法 （1）相关系数 （2）夹角余弦 夹角余弦是从向量集合的角度所定义的一种测度变量之间亲疏程度的相似系数。设在n维空间的向量 (1) 所选择的亲疏测度指标在实际应用中应有明确的意义。如在经济变量分析中，常用相关系数表示经济变量之间的亲疏程度。 四、样本数据与小类、小类与小类之间的度量 1 、最短距离（Nearest Neighbor) 最长距离（Furthest Neighbor ） 1 、组内平均连接法（Within-group Linkage) 重心法（Centroid clustering):均值点的距离 离差平方和法连接 红绿（2，4，6，5）8.75 离差平方和增加8.75－2.5＝6.25 黄绿（6，5，1，5）14.75 离差平方和增加14.75－8.5＝6.25 黄红（2，4，1，5）10－10＝0 故按该方法的连接和黄红首先连接。 §3 系统聚类方法 1、计算n个样品两两间的距离 ，有 个。将所有列表，记为D(0)表，该表是一张对称表。所有的样本点各自为一类。 3、利用递推公式计算新类与其它类之间的距离。分别删除D(0)表的第p，q行和第p，q列，并新增一行和一列添上的结果，产生D(1)表。 4、在D(1)表再选择最小的非零数，其对应的两类有构成新类，再利用递推公式计算新类与其它类之间的距离。分别删除D(1)表的相应的行和列，并新增一行和一列添上的新类和旧类之间的距离。结果，产生D(2)表。类推直至所有的样本点归为一类为止。 §2 动态聚类 一、思想 系统聚类法是一种比较成功的聚类方法。然而当样本点数量十分庞大时，则是一件非常繁重的工作，且聚类的计算速度也比较慢。比如在市场抽样调查中，有4万人就其对衣着的偏好作了回答，希望能迅速将他们分为几类。这时，采用系统聚类法就很困难，而动态聚类法就会显得方便，适用。 动态聚类解决的问题是：假如有个样