第十四章 聚类析.ppt

* * 第十三章 聚类分析 一、概述 分类学是人类认识世界的基础科学。聚类分析和判别分析是研究事物分类的基本方法，广泛地应用于自然科学、社会科学、工农业生产的各个领域。 聚类分析是一种重要的分类技术。与多元分析的其他方法相比，该方法较为粗糙，理论上还不完善，但应用方面取得了很大成功。与回归分析、判别分析一起被称为多元分析的三大方法。 1. 聚类的目的 根据已知数据，计算各观察个体或变量之间亲疏关系的统计量（距离或相关系数）。根据某种准则（最短距离法、最长距离法、中间距离法、重心法等），使同一类内的差别较小，而类与类之间的差别较大，最终将观察个体或变量分为若干类。 2. 聚类分析的应用例子 同一种疾病（如肝炎），根据临床表现等将病人分成若干类（甲、乙、丙、丁、戊型肝炎） 根据疾病的若干临床表现，将病人分成轻、中、重三型 在儿童生长发育研究中，把以形态学为主的指标归于一类，以机能为主的指标归于另一类 3. 聚类的种类 根据分类的原理可将聚类分析分为： K-means Cluster过程（快速聚类法） Hierarchical Cluster过程（系统聚类法） 根据分类的对象可将聚类分析分为： 系统Q型（即样品聚类clustering for individuals ） 系统R型（即指标聚类clustering for variables) 4. 聚类分析与判别分析间的联系 先采用聚类分析获得各个个体的类别（classification ）；然后采用判别分析建立判别函数，对新个体进行类型识别（identification ） 5、距离与相似系数（P418） （1）距离 假使每个样品有p个变量，则每个样品都可以看成p维空间中的一个点，n个样品就是p维空间中的n个点，则第i样品与第j样品之间的距离记为dij。 （2）相似系数 研究样品间的关系常用距离，研究指标间的关系常用相似系数。 相似系数常用的有：夹角余弦与相关系数 5、方法原理 按距离的远近划分类别 6、用途 细分市场 消费行为划分 设计抽样方案等 7、操作时距离测量方法 建议使用默认值即可（Q型分类） 8、变量选择 无关变量有时会引起严重的错分 应当只引入在不同类间有显著差别的变量 尽量只使用相同类型的变量进行分析 9、共线性问题 对纪录聚类结果有较大的影响 最好先进行预处理 10、变量的标准化 变量变异程度相差非常大时需要进行 标准化后会削弱有用变量的作用 11、异常值 影响较大 还没有比较好的解决办法 应尽力避免 12、分类数 从实用角度讲，2～8类比较合适 13、专业意义 一定要结合专业知识进行分析 二、K-means Cluster 过程 属于非系统聚类法的一种 也叫快速聚类\动态聚类、逐步聚类、迭代聚类）（quick cluster method、k-means model ） 适用于样本量很大的情形，用系统聚类法计算的工作量极大，作出的树状图也十分复杂, 不便于分析 1、原理 选择初始凝聚点 根据欧氏距离将每个样品归类 各类的重心代替初始凝聚点 根据欧氏距离将每个样品归类，…… 直至达到指定的迭代次数或达到终止迭代的 判据要求 2、初始凝聚点 initial cluster seeds ；cluster centers 自动选择 必须给出允许分类的最大个数k 凭经验选择 以初始凝聚点建立一个数据文件,在SPSS的CETERS过程的READ INITIAL FROM选择项中输入该数据文件 3、方法特点 要求已知类别数 可人为指定初始位置 节省运算时间 样本量大于100时有必要考虑 只能使用连续性变量 4、菜单： Analyze-classify-K means Cluster 5、分析实例(P416 data13-02) 三、Hierarchical Cluster 过程 1、系统聚类的基本思想 相近的聚为一类(以距离表示，样品聚类) 相似的聚为一类(以相似系数表示，变量聚类) 2、方法原理 先将所有n个变量／观测量看成不同的n类； 然后将性质最接近（距离最近）的两类合并为一类； 再从这n-1类中找到最接近的两类加以合并； 依此类推，直到所有的变量／观测量被合为一类； 使用者最后再根据具体的问题和聚类结果来决定应当分为几类。 3、类与类之间的距离 1.最短距离法(single linkage) 2.最长距离法(complete linkage) 3.中间距离法(median method) 4.类平均法(average