《聚类分析》课件.pptxVIP

1第06章聚类分析

聚类分析的基本思想及意义2聚类分析是研究分类问题的多元数据分析方法01聚类分析是数值分类学的一分支02在经济学中有广泛的应用背景城镇居民收入分析产品质量指标等等03

聚类分析的基本思想及意义3聚类分析的基本思想是在样品之间定义距离，在变量之间定义相似系数，距离或相似系数代表样品或变量之间的相似程度。按相似程度的大小，将样品（或变量）逐一归类，关系密切的类聚集到一个小的分类单位，然后逐步扩大，使得关系疏远的聚合到一个大的分类单位，直到所有的样品（或变量）都聚集完毕，形成一个表示亲疏关系的谱系图，依次按照某些要求对样品（或变量）进行分类。

聚类分析的基本思想及意义4多元数据形成数据矩阵，在这个数据矩阵中，共有n个样品（列向），p个指标（行向）。聚类分析有两种类型：按样品聚类或按变量（指标）聚类。

聚类分析一般寻求客观的分类方法。在进行聚类之前，对总体到底有几类类型并不知道（究竟分几类较为合适需从计算中探索调整）。判别分析则是在总体类型划分已知，在各总体分布或来自总体训练样本基础上，对当前的新样本判定它们属于哪个总体。联系：例如当我们对研究的多元数据的特征不熟悉，就要先进行聚类分析，才能考虑判别分析问题。聚类分析与判别分析的区别和联系

聚类分析的方法6030201重点介绍谱系聚类法快速聚类法

设有n个样品的多元观测数据：样品间的相似性度量－距离7STEP01STEP02每个样品可看成p元空间的一个点，n个样品组成p元空间的n个点。我们用各点之间的距离来衡量各种样品之间的相似程度（或靠近程度）。

设是样品之间的距离，一般要求它满足下列条件：在聚类分析中，有些距离不满足3），我们在广义的角度上仍称它为距离。样品间的相似性度量－距离

聚类分析中的常用距离9欧式距离令，形成一个距离矩阵其中。

例6.110为研究辽宁、浙江、河南、甘肃、青海5省份1991年城镇居民生活消费规律，需要利用调查资料对这5个省分类。指标变量共8个，含义如下：x1：人均粮食支出，x2：人均副食支出，x3：人均烟酒茶支出，x4：人均其他副食支出，x5：人均衣着商品支出，x5：人均日用品支出，x7：人均燃料支出，x8：人均非商品支出。数据资料示于表6.2。将每个省份的数据看成一个样品，计算样品之间的欧式距离矩阵。

例6.111表6.21991年5省城镇居民月均消费（单位：元/人）x1x2x3x4x5x6x7x8辽宁7.9039.778.4912.9419.2711.052.0413.29浙江7.6850.3711.3513.3019.2514.592.7514.87河南9.4227.938.208.1416.179.421.559.76甘肃9.1627.989.019.3215.999.101.8211.35青海10.0628.6410.5210.0516.188.391.9610.81

解以1，2，3，4，5分别表示辽宁、浙江、河南、甘肃、青海5个省（样品）。计算每两个样品之间的欧式距离如例6.1

例6.113从而得到距离矩阵如下：（因是对称矩阵，故只用下三角部分表示）。D中各元素数值的大小，反映了5个省消费水平的接近程度。

聚类分析中的常用距离14绝对距离Minkowski距离其中。当时分别是欧式距离、绝对距离。Minkowski距离又称距离，距离即欧式距离，距离即绝对距离。

聚类分析中的常用距离15Chebyshev距离Chebyshev距离是Minkowski距离当时的极限。

聚类分析中的常用距离16以上距离与各变量指标的量纲有关，为消除量纲的影响，有时应先对数据进行标准化，然后用标准化数据计算距离。标准化数据其中

聚类分析中的常用距离17方差加权距离对标准化数据计算欧式距离时，即是方差加权距离。

聚类分析中的常用距离18马氏距离其中是由样品算得的协方差矩阵：其中

样品间的相似性度量－距离19Q型聚类：样品聚类在SAS系统中，采用欧式距离聚类或先将数据标准化，再计算欧式距离进行聚类。（实际上就是采用了方差加权距离）

当对p个指标变量进行聚类时，用相似系数来衡量变量之间的相似性程度（或关联性程度）。一般的，若表示变量之间的相似系数，应满足：变量间的相似性度量－相似系数

相关系数设由样品