数据分析与软件应用-第七讲-聚类分析.pptVIP

4、重心法:Centroid clustering（样品的均值法)：类与类间的距离定义为两类重心（各类样品的均值）间的距离，重心指标对类有很好的代表性，但利用各样本的信息不充分。 ? ? 课件精选 * 分别为Gp和Gq的重心，类与类之间的距离定义为两个类重心（类内样品平均值）间的平方距离。 设Gp和Gq 为两个类 课件精选 * Gr类的重心为 和 的加权算术平均数： 课件精选 * 重心法递推公式 假设第p类和第q类合并成第r类， 则第r类与其它各旧类GJ的距离按重心法为： 课件精选 * 用重心法对5个样品进行分类。首先采用绝对距离计算距离平方矩阵： ? 0 ? ? ? ? 1 0 ? ? ? 6.25 2.25 0 ? ? 36 25 12.25 0 ? 64 49 30.25 4 0 课件精选 * G4和G6的距离为 课件精选 * 类似于方差分析的想法，如果类分得恰当，同类内的样品之间的离差平方和应较小，而类间的离差平方和应当较大。 5、离差平方和法（Ward’s Method) 具体做法：先让n个样品各自成一类，然后缩小一类，每缩小一类离差平方和就要增大，选择使S2增加最小的两类合并，直到所有的样品归为一类为止。 课件精选 * 把Gp和Gq合并为Gr类 各类内样品的离散程度为 课件精选 * 这种系统聚类法称离差平方和法或Ward法 课件精选 * 课件精选 * 如 和 为一类，则离差平方和 如 和 为一类，则离差平方和 和 被聚为新类，重心为 课件精选 * ? 0 ? ? ? ? 0.5 0 ? ? ? 3.125 1.125 0 ? ? 18 12.50 6.125 0 ? 32 24.50 15.125 2 0 课件精选 * 1、样品相似性度量：距离 距离定义的准则：定义距离要求满足第i个和第j个样品之间的距离如下四个条件（距离可以自己定义，只要满足距离的条件） 课件精选 * 2、常用距离的算法 设 和 是第i和 j 个样品的观测值，则二者之间的距离 为： 闵氏距离 √欧氏距离 (1) 闵可夫斯基距离（明氏距离Minkowski） 绝对距离 当q=1时 切比雪夫距离 当q→∞时 课件精选 *  闵氏距离有以下缺点： ①明氏距离的值与各指标的量纲有关，而各指标计量单位的选择有一定的人为性和随意性，各变量计量单位的不同不仅使此距离的实际意义难以说清，而且，任何一个变量计量单位的改变都会使此距离的数值改变从而使该距离的数值依赖于各变量计量单位的选择。 ②明氏距离的定义没有考虑各个变量之间的相关性和重要性。实际上，闵考夫斯基距离是把各个变量都同等看待，将两个样品在各个变量上的离差简单地进行了综合。 课件精选 * (2)马氏距离（广义欧氏距离） 是印度著名统计学家马哈拉诺比斯(P．C．Mahalanobis)所定义的一种距离，设xi,xj是来自均值向量 总体G中的P维样品，则其计算公式为： 课件精选 * 马氏距离与前述距离的主要不同就是马氏距离考虑了观测变量之间的相关性。如果假定各变量之间相互独立，即观测变量的协方差矩阵是对角矩阵，则马氏距离就退化为用各个观测指标的标准差的倒数作为权数进行加权的欧氏距离。因此，马氏距离不仅考虑了观测变量之间的相关性，而且也考虑到了各个观测指标取值的差异程度，不再受个指标量纲的影响，将原始数据做线性变换后，马氏距离不变。为了对马氏距离和欧氏距离进行一下比较，以便更清楚地看清二者的区别和联系，现考虑一个例子。 课件精选 * 例如，假设有一个二维正态总体，它的分布为： 课件精选 * (3)兰氏距离：兰思和维廉姆斯(Lance Williams)所给定的一种距离， 其计算公式为： 这是一个自身标准化的量，由于它对大的奇异值不敏感，特别适合于高度偏倚的数据。虽然这个距离有助于克服闵氏距离的第一个缺点（与各变量单位无关），但它也没有考虑指标之间的相关性。 课件精选 * (4) 斜交空间距离 由于各变量之间往往存在着不同的相关性，用欧氏距离来显得不太敏感，所以有人建议采用斜交空间距离 当各变量之间不相关时， 斜交空间退化为欧氏距离。（除相差一常数） 课件精选 * 3、相似系数（变量相似性度量） （1）相似系数 设