统计分析-聚类分析.pptxVIP

§10 聚类分析（Cluster Analysis）[引例10-1]§10 聚类分析（Cluster Analysis）[引例10-1]§10 聚类分析（Cluster Analysis）§10.1概述§10.2统计量§10.3系统聚类（层次聚类）§10.4快速聚类§10.1 概述§10.1概述问题的提出基本思想主要步骤基本原则主要分类§10.1 概述 问题的提出 聚类分析又称群分析、点群分析、簇群分析等，是研究分类问题(样本或指标)的一种多元统计方法。 与其它多元统计分析方法相比，聚类分析方法比较粗糙，理论上尚不完善，目前正处于发展阶段。 但由于这种方法能解决许多实际问题，应用比较方便，因此越来越受到人们的重视。 §10.1 概述 问题的提出 §10.1 概述 基本思想 假定研究对象之间存在不同程度的相似性（亲疏程度）。 根据观测样本，找出并计算一些能够度量相似程度的统计量（相似系数、相关系数、距离等）。 按照相似性统计量，将相似程度大的聚合到一类，关系疏远的聚合到另一类，直到把所有样本都聚合完毕，形成一个由小到大的分类系统。 最后将分类系统直观地用图形表示出来，即谱系图。§10.1 概述主要分类R型聚类分析 对变量进行聚类分析（比较：主成分、公因子）Q型聚类分析 对样本进行聚类分析（比较：主成分得分、因子得分） §10.1 概述主要分类系统聚类（hierarchical cluster） 不指定最终的类数，结论将在聚类过程中寻求，这种聚类称为系统聚类 可以对变量和样本进行聚类分析快速聚类（K-means cluster） 事先指定用于聚类分析的类数 只对样本进行聚类分析，适合大样本数据§10.2统计量 统计量 为了将样本(或变量)进行分类，需要研究其关系。 目前用得最多的方法有两个：一种方法是用相似系数，比较相似的样本归为一类，不怎么相似的样本归为不同的类。 另一种方法是将一个样本看作P维空间的一个点，并在空间定义距离，距离越近的点归为一类，距离较远的点归为不同的类。 对样本进行聚类（Q型聚类），常用的统计量为距离； 对变量进行聚类（R 型聚类），常用的统计量为相似系数。§10.2 统计量 统计量－相似系数 相似系数( similarity coefficient) 相似系数是指衡量全部样本或全部变量中任何两部分相似程度的指标。主要有内积系数、匹配系数等几项指标，其中内积系数（inner product coefficient)是普通应用于数量数据的相似性指标。 两个同维向量 与 的各分量依次相乘再相加，称为两向量的内积（inner product)。 内积的数值可以作为一种反映两向量相似程度的指标，称为相似系数。§10.2 统计量 统计量－相似系数 夹角余弦（Cosine） 为了消除量纲的影响，对内积进行模标准化处理，经过模标准化处理后的内积正好是两个向量在原点处的夹角余弦 。 §10.2 统计量 统计量－相似系数 相关系数（Correlation coefficient） 为了消除量纲的影响，对原始数据进行离差标准化处理，经过离差标准化处理后的内积正好是两个向量的相关系数 。 §10.2 统计量 统计量－相似系数 相关系数矩阵 计算任何两个样本（指标） 与 之间的相关系数 ，其值越大表示样本（指标）间接近程度越大，值越小表示接近程度越小。 可以根据相似系数矩阵对样本（指标）进行分类。 §10.2 统计量 统计量－相似系数§10.2 统计量统计量－距离 距离 距离实质上反映的是两个向量相异的指标，它与相似是互补的概念。 距离系数的种类很多，但都有一个共同的特征，即当两个向量完全相同时取最小值，完全不同时取最大值。§10.2 统计量统计量－距离 距离 点与点之间的距离：把每一个样本视为p维空间中的一个点，则两个样本之间的距离可以定义为p维空间中两个点之间的距离。 类与类之间的距离：类间距离是基于点间距离定义的，比如两类之间最近点之间的距离可以作为这两类之间的距离，也可以用两类中最远点之间的距离或各类的中心之间的距离来作为类间距离。 如果每一类都由一个点组成，那么点间的距离就是类间距离。§10.2 统计量统计量－距离 明氏距离（Minkowski distance） 第i个样本与第j个样本间的明氏距离为： 绝对值距离（absolute value distance） q＝1时§10.2 统计量统计量－距离 欧氏距离（Eculidean distance） q＝2时 切比雪夫离（Chebychev distance）欧氏距离是应用最广泛的一种距离系数。§10.2 统计量统计量－距离 马氏距离（Mahalanobis distance） 设样本