数学建模聚类讲解.pptVIP

聚 类 分 析; 一、聚类分析（Cluster Analysis）简介 聚类分析是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类的分析技术。;基本思想 ;基本思想 ; 要做聚类分析，首先得按照我们聚类的目的，从对象中提取出能表现这个目的的特征指标；然后根据亲疏程度进行分类。;R型是对变量进行分类处理，其作用在于： 可以了解变量间及变量组合间的亲疏关系 可以根据变量的聚类结果及它们之间的关系，选择主要变量进行回归分析或Q型聚类分析; 2 相似性度量;Q型样品间的“相似性”度量—距离; 3、明考斯基距离(Minkowski);6.马氏距离; 例1 欧洲各国的语言有许多相似之处，有的十分 相似。为了研究这些语言的历史关系，也许通过比较 他们数字的表达式比较恰当。表列举出英语，挪威语， 丹麦语，荷兰语，德语，法语，西班牙语，意大利语， 波兰语，匈牙利语和芬兰语的1,2,…,10的拼法，希望 计算这11种语言之间的语言的距离.;11种欧洲语言的数词;选择适用的距离;1、夹角余弦; 三 系统聚类分析;第二步根据所确定的样品（或变量）“距离”公式， ;2. 类间距离 ; 用 i , j 表示样品 。用 表示 与 之间的距离, 用 与 表示两个类, 所包含的样品数分别为 与 之间的距离用 表示。下面给出四种最常用的类与类之间距离的定义。;1 、最短距离（Nearest Neighbor) ;; 1、根据样品的特征，规定样品之间的距离 ，共有 个。将所有列表，记为D（0）表，该表是一张对称表。所有的样本点各自为一类。; 3、利用递推公式计算新类与其它类之间的距离。分别删除D（0）表的第p，q行和第p，q列，并新增一行和一列添上的结果，产生D（1）表。; 4、在D（1）表再选择最小的非零数，其对应的两类有构成新类，再利用递推公式计算新类与其它类之间的距离。分别删除D（1）表的相应的行和列，并新增一行和一列添上的新类和旧类之间的距离。结果，产生D（2）表。类推直至所有的样本点归为一类为止。;最短距离法进行聚类分析的步骤如下：; 例2 设有6个样品，每个只测一个指标，分别是1，2，5，7，9，10，试采用绝对值距离用最短距离法将它们进行分类。; 解 （1）样品首先采用绝对值距离，计算样品之 间的距离阵为D(0).;G2={2};2.最长距离（Furthest Neighbor ） ;即定义 与 之间的距离为 与 中最远的两个样品的距离。 类与类之间的最长距离有如下的递推公式。设 由 与 合并而成, 则 到 的最长距离为;;组内平均连接法（Within-group Linkage) ;4.重心法（Centroid clustering):均值点的距离 ;将p和q合并为k，则k类的样品个数为; 例2 设有6个样品，每个只测一个指标，分别是1，2，5，7，9，10，试采用欧氏距离的平方,试用重心法将它们进行分类。;;D2(2);G1={1};5.动态聚类法（快速聚类法）;基本思想：选取若干个样品作为凝聚点，计算每个样品和凝聚点的距离，进行初始分类，然后根据初始分类计算其重心，再进行第二次分类，一直到所有样品不再调整为止。;选择凝聚点; 用一个简单的例子来说明动态聚类法的工作过程。例如我们要把图中的点分成两类。快速聚类的步骤： 1、随机选取两个点 和 作为凝聚点。 2、对于任何点 ，分别计算 3、若 ，则将 划为第一类，否则划给第二类。 ;; (e) 第二次分类 ;动态聚类法 ;第一，选择凝聚点； 第二，初始分类； 对于取定的凝聚点，视每个凝聚点为一类，将每个样品根据定义的距离向最近的凝聚点归类。 第三，修改分类 得到初始分类，计算各类的重心，以这些重心作为新的凝聚点，重新进行分类，重复步骤2，3，直到分类的结果与上一步的分类结果相同，表明分类已经合理为止。;例3：某商店5位售货员的销售量和教育程度如下表：;选择凝聚点;对于取定的凝聚点，视每个凝聚点为一类，将每个样品根据定义的距离，向最近的凝聚点归类。;计算G1和G2的重心：G1的重心（1,1.5）， G2的重心（7.33,1.67）;售货员;修改前后所分的类相同，故可停止修改。