《聚类分析部分.pptVIP

多元统计课程设计 之 聚类分析 长春工业大学 聚类分析概述 聚类分析又称群分析，它是研究（样品或指标）分类问题的一种多元统计方法。所谓类，通俗的说，就是指相似元素的集合。 在社会经济领域中存在着大量 分类问题。比如，在经济学中，根据人均国民收入、人均工农业产值和人均消费水平等多项指标对世界上所有国家的经济发展状况进行分类。 世界上， 按经济发展水平可以将各个国家和地区划分为发达国家、发展中国家和贫困落后国家等。 聚类分析的目的是把分类对象按一定规则分成若干类，这些类不是事先给定的，而是根据数据的特征确定的，对类的数目和类的结构不必作任何假定。 聚类分析也能用来概括数据而不只是为了寻找“自然的”或“实在的”分类。 判别分析与聚类分析的关系 判别分析是在已知研究对象分成若干类型（或组别）并已取得各种类型的一批已知样品的观测数据，在此基础上根据某些准则建立判别式，然后对未知类型的样品进行判别分类。对于聚类分析来说，一批给定样品要划分的类型事先并不知道，正需要通过聚类分析来给以确定类型。 正因为如此，判别分析和聚类分析往往联合起来使用，例如判别分析是要求先知道各类总体情况才能判断新样品的归类，当总体分类不清楚时，可先用聚类分析对原来的一批样品进行分类，然后再用判别分析建立判别式以对新样品进行判别。 聚类分析与判别分析、主成分 分析、回归分析等方法联合起来使用，往往效果更好。 聚类分析根据分类对象不同分 为Q型聚类分析和R型聚类分析。 Q型聚类是指对样品进行聚类，R型聚类是指对变量进行聚类。 教材中主要介绍Q型聚类。 聚类分析内容非常丰富，有系统聚类法、有序样品聚类法、动态聚类法、模糊聚类法、图论聚类法、聚类预报法等。我们主要介绍系统聚类法。 在对样品（或变量）进行分类时，很直观地，我们认为在同一类里的的这些对象在某种意义上倾向于彼此相似，而在不同类里的对象倾向于不相似。 多元统计分析中，样品（或变量）之间的这种相似性用距离和相似系数来度量。 距离和相似系数 距离常用来度量样品之间的相似性 相似系数常用来度量变量之间的相似性 样品之间的距离和相似系数有着各 种不同的定义，而这些定义与变量的类 型有着非常密切的关系。 变量的类型 通常变量按测量尺度的不同可以分为以下 三类： （1）间隔尺度变量：变量用连续的量来表示， 如长度、重量、速度、温度等； （2）有序尺度变量：变量度量时不用明确的数 量表示，而是用等级来表示，如某产品分为一 等品、二等品、三等品等有次序的关系。 （3）名义尺度变量：变量用一些类表示，这些 类之间既无等级关系，也无数量关系，如性别 职业、产品的型号等。 距离 设 为第i个样品的第j个指标，数据矩阵表如下： 在上表中，每个样品有p个变量，故 每个样品都可以看成是 中的一个点，n 个样品就是 中的n个点。在 中需定义 某种距离，将第i个样品与第j个样品之间 的距离记为 ,在聚类过程冲，相距较近的 点倾向于归为一类，相距较远的点应归属 不同的类。 距离的性质 距离 一般应满足如下四个条件： （1） ，对一切i，j； （2） ，当且仅当第i个样品与第j个样品的 各变量值都相同； （3） ，对一切i，j； （4） ，对一切i，j，k。 常用距离定义 Minkowski（明考夫斯基）距离（明氏距离） 第i个样品与第j个样品间的明氏距离定义为： 明氏距离有以下三种特殊形式： （1）当q=1时， ，成为绝对值距离, 也常被称为“城市街区”距离； （2）当q=2时， ，称为欧氏距 离，这是聚类分析中最常用的一个距离； （3）当q=∞时， ，称为契比雪夫距离。 当各变量的单位不同或测量值范围相差很大时，不应直接采用明氏距离，而应先对各变量的数据作标准化处理，然后用标准化后的数据计算距离。最常用的标准化处理是 其中 为第j个变量的