聚类分析3摘要.pptVIP

聚类分析 例1 对10位应聘者做智能检验。3项指标X，Y和Z分别表示数学推理能力，空间想象能力和语言理解能力。其得分如下，选择合适的统计方法对应聘者进行分类。 聚类分析内容 系统聚类分析 直观，易懂。 快速聚类（动态聚类） 快速，动态。 按照分类对象不同 Q型聚类（样品聚类）：对从实际问题中观测得到n个样品，要根据某种相似性的原则，将这个n样品进行分类． 　R型聚类（变量聚类）：即对所考察的p个指标的n个观测值，要根据某种相似性的原则将这个p指标进行分类． 直观看，这个分类是否合理？ 计算4号和6号得分的离差平方和： (21-20)2+(23-23)2+(22-22)2=1 计算1号和2号得分的离差平方和： (28-18)2+(29-23)2+(28-18)2=236 计算1号和3号得分的离差平方和为482，由此可见一般，分类可能是合理的，欧氏距离很大的应聘者没有被聚在一起。 问题： 如何来选择样品间相似的测度指标，如何 将有相似性的类连接起来？ 具体问题： 样本点之间按什么刻画相似程度？ 样本点和小类之间按什么刻画相似程度？ 小类与小类之间按什么来刻画相似程度？ 常用刻画样品之间关系的量为相似系数和距离 一.变量测量尺度的类型 通常变量按照测量它们的尺度不同分为三类。 1.间隔尺度 变量度量时用数量来表示，其数值由测量或计数、统计得到，如长度、重量、收入、支出等。 一般来说，计数得到的数量是离散数量，测量得到的数量是连续数量。 在间隔尺度中如果存在绝对零点，又称比例尺度。 三.样品间亲疏程度的测度 样品或变量亲疏程度的数量指标 相似系数和距离. 相似系数 性质越接近的变量或样品，它们的相似系数越接近 于1或一l，彼此无关的变量或样品它们的相似系数 则越接近于0.相似的为一类，不相似的为不同类； 距离 将每一个样品看作p维空间的一个点，并用某种 度量测量点与点之间的距离，距离较近的归为一类， 距离较远的点归属于不同的类。 R型聚类分析 指变量之间的聚类，常用相似系数来测度变量之间的 亲疏程度。 Q型聚类分析 指样品之间的聚类，常用距离来测度样品之间的亲疏 程度。 2.常用距离的算法 设 和 是第i和j 个样品的观测值，则二者之间的距离为：  明氏距离主要缺点： ①明氏距离的值与各指标的量纲有关. ②明氏距离没有考虑各变量之间的相关性 没有考虑变量方差的不同. (2) 兰氏距离 兰思和维廉姆斯(Lance Williams)所给定的一种距 离，计算公式为： (3)马氏距离（又称广义欧氏距离） 马哈拉诺比斯(P．C．Mahalanobis)所定义的一种距 离，计算公式为： (4) 斜交空间距离 由于各变量之间往往存在着不同的相关关系，用正交 空间的距离来计算样本间的距离易变形，所以可以采 用斜交空间距离。 2. 相似系数的算法 （1）相似系数（相关系数） （2）夹角余弦 夹角余弦是从向量集合的角度所定义的一种测度变 量之间亲疏程度的相似系数。设n维空间的向量 (1)所选择的亲疏测度指标在实际应用中应有明确的 意义。 如在经济变量分析中，常用相关系数表示经济变量 之间的亲疏程度。 五. 样本数据与小类、小类与小类之间的度量 1.最短距离（Nearest Neighbor) 3.重心法（Centroid clustering):均值点的距离 §3 系统聚类方法 1.根据样品特征规定样品之间的距离 ，有 个. 3.给出计算新类与其它类的距离公式，并计算新类与 其它类之间的距离Dk r . 分别删除D（0）表的第p，q行和第p，q列，并新增一行和一列对应于Dr.得到新矩阵记为D（1）. 二. 常用的距离种类 最短距离法的递推公式 各步聚类的结果： (1,2) (3) (4) (5) (1,2,3) (4) (5) (1,2,3) (4,5) (1,2,3,4,5) 最长距离法的递推公式 3.中间距离法 类平均法的递推公式 5.重心法(样品的均值法) 用重心法对5个样品进行分类。 首先采用绝对距离计算距离平方矩阵： 聚类分析的主要步骤 1. 选择变量 （1）与聚类分析的目的密切相关 （2）能反映所分类变量的特征 （3）对不同研究对象其值有