第12聚类分析与判别.ppt

第12章 聚类分析与判别分析 《管理统计学》 谢湘生 广东工业大学管理学院 12.1 聚类分析的作法 12.1.1 概述 10.1.2 聚类分析的作法 1.将数据标准化 2.计算对象之间的“距离” 聚类分析中的“距离” 3.选择类与类之间的距离定义 类间距离 类间距离 类间距离 附: 离差平方和法(WARD) 基本思想来源于方差分析。它认为：如果分类正确，同类间的离差平方和应较小，类与类之间的类差平方和(与距离有关)应较大. 具体做法是，先将n个样本分成一类,然后每次缩小一类,每缩小一类离差平方和就要增大. 4.聚类 5. 分类 聚类分析的进一步说明 12.2 用SPSS做聚类分析 12.2.1概述 层次聚类法操作过程与例子 PASW Statistics 的冰柱图 PASW Statistics 的输出结果 要求给出聚类进度表，将输出凝聚过程中每一步的结果 输出树状图 输出冰柱图 对分类变量 对二值变量 聚类步骤 合并时类的距离 合并了哪些元素 合并过程中第一类的元素上一次在第几步出现 合并过程中第一类的元素下次出现在第几步 冰柱图（垂直） * * 聚类分析(Cluster Analysis)是依据研究对象的个体特征，对其进行分类的方法。分类在经济、管理、社会学、医学等领域，有着广泛的应用。 [例] 为制定我国成年女子的服装标准，选了14项身体指标：（1）总的体高Y1 （2）身高Y2 （3）上体长Y3 （4）手臂长Y4 （5）肩宽Y5 （6）胸围Y6 （7）颈围Y7 （8）前胸Y8 （9）后背Y9 （10）前腰节Y10 （11）后腰节Y11 （12）下体长Y12 （13）腰围Y13 （14）臀围Y14 对3454个成年女子分别进行了测量。如何根据样本的测量数据制定合乎中国国情的成年女子服装标准。 3454名成年女子14个部位的谱系聚类图(类平均法) y5 总肩宽 y7 后背宽 y6 前胸宽 y4 颈围 y14 臀围 y13 腰围 y3 胸围 y9 后腰节 y8 前腰节 y11 身高 y10 总体高 y12 下体长 y2 手臂长 y1 上体长 　 距离 0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 相关系数 1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 问如何将下述卡通人物分类？ 管理实际中经常会遇到类似的问题。一般地，设有p个指标（变量），n个对象，依据这n个对象在这p个指标下的数据，对这n个对象进行聚类。设数据为 指标： 1, 2, …, p 对象1 对象2 … 对象n P维空间中的一个点 聚类问题，就是对p维空间中的n个点的聚类问题。 一些要注意的问题 变量（指标）并非越多越好。变量太多，就难以判断聚类结果的实际意义。例如对企业按照技术能力的各项指标（变量）聚类，可以在技术能力等方面把企业分为不同的类别。但如果把企业相关的所有指标都包括进来，对分类结果的含义就难以判断了。 只要指标间有一定相关关系（不必高度相关），就可以对所观察的一群个体分类（Q-型聚类）。从而可以对个体进行进一步研究。例如可以对消费者的偏好进行分类；可以依据不同地区的有关经济特征（变量）对地区进行分类；等等。 如果指标（变量）过多，也可以对指标进行分类（R-型聚类），把含义相近的指标聚在一起，将所有指标分为若干类。 为了消除不同变量的单位对聚类的影响，应当首先将所有的数据标准化。对上述数据矩阵X而言，按列进行标准化，就可解决不同数据单位问题。 其中 分别表示第j列数据的均值与标准差。 直观地，应将“相似”的对象分为一类，但如何刻画“相似”。根据前面的讨论，聚类实际上是对n维空间的点进行的，因此“相似”的点的“距离”也近。 具体来说，先计算第i个对象与第j个对象之间的距离rij，就可得到对象之间“相似关系”矩阵： 对象1 对象2 … 对象n 1, 2, …, n 对象, 对象, …, 对象 对通常的距离而言， rij= rji，因此该矩阵为对称矩阵。 （1）欧氏距离：欧氏距离的平方为 （2）偏差距离： （3）明考夫斯基(Minkowski)距离（的q次方）： （4）马氏(Mahalanobis)距离（的平方）： 其中V是协方差矩阵。 在聚类分析中，（1）、（2）中的常数因子(1/p)可以去掉，这样它们就是明氏距离的特殊情况。在具体应用时，可根