数据分析与软件应用第七讲聚类分析.pptxVIP

第七讲聚类分析

STEP3STEP2STEP1系统聚类分析（HierarchicalCluster过程)：直观，易懂。快速聚类(K-meansCluster过程)：快速，动态。有序聚类：保序(时间顺序或大小顺序)。聚类分析方法

1什么是聚类分析例对10位应聘者做智能检验。3项指标X，Y和Z分别表示数学推理能力，空间想象能力和语言理解能力。其得分如下，选择合适的统计方法对应聘者进行归类。应聘者12345678910X28181121262016142422Y29232223292322232927Z28181622262222242424

我们直观地来看，这个归类是否合理？1计算4号和6号得分的离差平方和：(21-20)2+(23-23)2+(22-22)2=12计算1号和2号得分的离差平方和：(28-18)2+(29-23)2+(28-18)2=2363计算1号和3号得分的离差平方和为482，由此可见一般，归类可能是合理的，欧氏距离很大的应聘者没有被聚在一起。4由此，我们的问题是如何来选择样品间相似的测度指标，如何将有相似性的类连接起来？5

聚类分析根据一批样品的许多观测指标，按照一定的数学公式具体地计算一些样品或一些参数(指标)的相似程度，把相似的样品或指标归为一类。例如对上市公司的经营业绩进行聚类；又例如当我们对企业的经济效益进行评价时，建立了一个由多个指标组成的指标体系，由于信息的重叠，一些指标之间存在很强的相关性，所以需要将相似的指标聚为一类，从而达到简化指标体系的目的。

思考：样本点之间按什么刻画相似程度思考：样本点和小类之间按什么刻画相似程度思考：小类与小类之间按什么来刻画相似程度

间隔尺度。指标度量时用数量来表示，其数值由测量或计数、统计得到，如长度、重量、收入、支出等。一般来说，计数得到的数量是离散数量，测量得到的数量是连续数量。在间隔尺度中如果存在绝对零点，又称比例尺度。02变量按照测量它们的尺度不同，可以分为三类。01变量测量尺度的类型2相似性度量

顺序尺度。指标度量时没有明确的数量表示，只有次序关系，或虽用数量表示，但相邻两数值之间的差距并不相等，它只表示一个有序状态序列。如评价酒的味道，分成好、中、次三等，三等有次序关系，但没有数量表示。

名义尺度。指标度量时既没有数量表示也没有次序关系，只有一些特性状态，如眼睛的颜色，化学中催化剂的种类等。在名义尺度中只取两种特性状态的变量是很重要的，如电路的开和关，人口性别的男和女，市场交易中的买和卖等都是此类变量。

R型聚类（）基于样品对指标进行分析，常用相似系数来测度。1相似系数:取值（1，-1），性质越接近的变量或样品，相似系数越接近于1或一l，相似的为一类，不相似的为不同类。2二、样品间亲疏程度的测度

01Q型聚类：（）基于指标对样品进行分析，常用距离来测度样品之间的亲疏程度。02距离：是将每一个样品看作p维空间的一个点，并用某种度量测量点与点之间的距离，距离较近的归为一类，距离较远的点应属于不同的类。

1、样品相似性度量：距离距离定义的准则：定义距离要求满足第i个和第j个样品之间的距离如下四个条件（距离可以自己定义，只要满足距离的条件）

设和是第i和j个样品的观测值，则二者之间的距离为：闵氏距离√欧氏距离闵可夫斯基距离（明氏距离Minkowski）绝对距离当q=1时切比雪夫距离当q→∞时2、常用距离的算法

闵氏距离有以下缺点：

明氏距离的值与各指标的量纲有关，而各指标计量单位的选择有一定的人为性和随意性，各变量计量单位的不同不仅使此距离的实际意义难以说清，而且，任何一个变量计量单位的改变都会使此距离的数值改变从而使该距离的数值依赖于各变量计量单位的选择。明氏距离的定义没有考虑各个变量之间的相关性和重要性。实际上，闵考夫斯基距离是把各个变量都同等看待，将两个样品在各个变量上的离差简单地进行了综合。

马氏距离（广义欧氏距离）是印度著名统计学家马哈拉诺比斯(P．C．Mahalanobis)所定义的一种距离，设xi,xj是来自均值向量总体G中的P维样品，则其计算公式为：

马氏距离与前述距离的主要不同就是马氏距离考虑了观测变量之间的相关性。如果假定各变量之间相互独立，即观测变量的协方差矩阵是对角矩阵，则马氏距离就退化为用各个观测指标的标准差的倒数作为权数进行加权的欧氏距离。因此，马氏距离不仅考虑了观测变量之间的相关性，而且也考虑到了各个观测指标取值的差异程度，不再受个指标量纲的影响，将原始数据做线性变换后，马氏距离不变。为了对马氏距离和欧氏距离进行一下比较，以便更清楚地看清二者的区别和联系，现考虑一个例子。

例如