数据分析与软件应用 第七讲 聚类分析.pptVIP

第七讲 聚类分析 聚类分析方法 系统聚类分析（Hierarchical Cluster过程) ：直观，易懂。 快速聚类(K-means Cluster过程)： 快速，动态。 有序聚类：保序(时间顺序或大小顺序)。 例 对10位应聘者做智能检验。3项指标X，Y和Z分别表示数学推理能力，空间想象能力和语言理解能力。其得分如下，选择合适的统计方法对应聘者进行归类。 我们直观地来看，这个归类是否合理？ 计算4号和6号得分的离差平方和： (21-20)2+(23-23)2+(22-22)2=1 计算1号和2号得分的离差平方和： (28-18)2+(29-23)2+(28-18)2=236 计算1号和3号得分的离差平方和为482，由此可见一般，归类可能是合理的，欧氏距离很大的应聘者没有被聚在一起。 由此，我们的问题是如何来选择样品间相似的测度指标，如何将有相似性的类连接起来？ 聚类分析根据一批样品的许多观测指标，按照一定的数学公式具体地计算一些样品或一些参数(指标)的相似程度，把相似的样品或指标归为一类。 例如对上市公司的经营业绩进行聚类；又例如当我们对企业的经济效益进行评价时，建立了一个由多个指标组成的指标体系，由于信息的重叠，一些指标之间存在很强的相关性，所以需要将相似的指标聚为一类，从而达到简化指标体系的目的。 思考：样本点之间按什么刻画相似程度 思考：样本点和小类之间按什么刻画相似程度 思考：小类与小类之间按什么来刻画相似程度 一、变量测量尺度的类型 变量按照测量它们的尺度不同，可以分为三类。 (1)间隔尺度。指标度量时用数量来表示，其数值由测量或计数、统计得到，如长度、重量、收入、支出等。一般来说，计数得到的数量是离散数量，测量得到的数量是连续数量。在间隔尺度中如果存在绝对零点，又称比例尺度。 二、样品间亲疏程度的测度 R型聚类 （ ）基于样品对指标进行分析，常用相似系数来测度。 相似系数:取值（1，-1），性质越接近的变量或样品，相似系数越接近于1或一l，相似的为一类，不相似的为不同类。 Q型聚类：（ ）基于指标对样品进行分析，常用距离来测度样品之间的亲疏程度。 距 离：是将每一个样品看作p维空间的一个点，并用某种度量测量点与点之间的距离，距离较近的归为一类，距离较远的点应属于不同的类。 2、常用距离的算法 设 和 是第i和 j 个样品的观测值，则二者之间的距离 为：  闵氏距离有以下缺点： ①明氏距离的值与各指标的量纲有关，而各指标计量单位的选择有一定的人为性和随意性，各变量计量单位的不同不仅使此距离的实际意义难以说清，而且，任何一个变量计量单位的改变都会使此距离的数值改变从而使该距离的数值依赖于各变量计量单位的选择。 ②明氏距离的定义没有考虑各个变量之间的相关性和重要性。实际上，闵考夫斯基距离是把各个变量都同等看待，将两个样品在各个变量上的离差简单地进行了综合。 (2)马氏距离（广义欧氏距离） 是印度著名统计学家马哈拉诺比斯(P．C．Mahalanobis)所定义的一种距离，设xi,xj是来自均值向量 总体G中的P维样品，则其计算公式为： (3)兰氏距离：兰思和维廉姆斯(Lance Williams)所给定的一种距离， 其计算公式为： (4) 斜交空间距离 由于各变量之间往往存在着不同的相关性，用欧氏距离来显得不太敏感，所以有人建议采用斜交空间距离 3、相似系数（变量相似性度量） （1）相似系数 （2）夹角余弦 夹角余弦时从向量集合的角度所定义的一种测度变量之间亲疏程度的相似系数。设在n维空间的向量 (1)所选择的亲疏测度指标在实际应用中应有明确的意义。如在经济变量分析中，常用相关系数表示经济变量之间的亲疏程度。 §3 系统聚类方法 -、分析过程： 1、根据样品的特征，每个样品自成一类，计算n个样品两两之间的距离 ，共有 个。把这些距离排列成一表，记为D（0）表。 3、利用递推公式计算新类与其它类之间的距离。分别删除D（0）表的第p，q行和第p，q列，并新增一行和一列添上的结果，产生D（1）表。若类的个数等于1，转到下一步，否则回到前一步。类推直至所有的样本点归为一类为止。 4、画聚类图 5、决定类的个数