误差分析课件聚类分析之快速聚类法.pptVIP

第1页，共26页，星期日，2025年，2月5日聚类分析样品间相似性的度量快速聚类分析及实例目录第2页，共26页，星期日，2025年，2月5日分类俗语说，物以类聚、人以群分。但什么是分类的根据呢？比如，要想把中国的县分成若干类，就有很多种分类法；可以按照自然条件来分，比如考虑降水、土地、日照、湿度等各方面；也可以考虑收入、教育水准、医疗条件、基础设施等指标；既可以用某一项来分类，也可以同时考虑多项指标来分类。第3页，共26页，星期日，2025年，2月5日基本思想是：通过定义样品或变量间“接近程度”的度量，以此为基础，将“相近”的样品或变量归为一类。聚类分析的介绍第4页，共26页，星期日，2025年，2月5日聚类分析和判别分析是研究分类问题的数据分析方法。聚类分析和判别分析的比较聚类分析判别分析区别进行聚类分析前对总体有几种类型并不知道总体分类已给定，在总体分布或来自总体训练样本基础上，对新样品判定属于哪个总体联系判别分析中的训练样本往往是从聚类分析中得到的第5页，共26页，星期日，2025年，2月5日引入:如何度量远近？如果想要对100个学生进行分类，如果仅仅知道他们的数学成绩，则只好按照数学成绩来分类；这些成绩在直线上形成100个点。这样就可以把接近的点放到一类。如果还知道他们的物理成绩，这样数学和物理成绩就形成二维平面上的100个点，也可以按照距离远近来分类。三维或者更高维的情况也是类似；只不过三维以上的图形无法直观地画出来而已。第6页，共26页，星期日，2025年，2月5日设X=为所关心的p个指标，对此指标作n次观测得n组观测值称这n组观测数据为n个样品。这样，每个样品可看成p维空间的一个点，n个样品组成p维空间的n个点，我们可以用各点之间的距离来衡量个样品点之间的靠近程度。样品间相似性的度量第7页，共26页，星期日，2025年，2月5日1欧氏距离2绝对距离3Minkowski距离其中m≥1，又称为Lm距离。4Chebyshev距离是Minkowski距离当m→＋∞时的极限。广义的“距离”：第8页，共26页，星期日，2025年，2月5日由于不同指标通常有不同的量纲，这会引起各取值的分散程度差异较大，有时会造成很不合理的结果，为了消除此种影响，常需要在分析前对数据进行标准化处理。5方差加权距离标准化数据的欧氏距离就是方差加权距离。第9页，共26页，星期日，2025年，2月5日?6马氏距离通常都是尝试各种不同距离分析，最终采用最有利于分类的距离定义。[]??==-=---=--=-niiTniiinjiTjijixnxxxxxnSxxxSxxSxxxxd11212111))((11,,,)()()(其中算得的协方差矩阵：是由样品其中L第10页，共26页，星期日，2025年，2月5日令形成n个样品两两之间的距离矩阵：其中第11页，共26页，星期日，2025年，2月5日思想：首先将样品粗糙得分类，然后再依据样品间的距离按一定规则逐步调整，直至不能再调整为止。适合于：样本数目较大的数据集的聚类分析局限性：需要事先指定分类的数目，而且此数目对最终分类结果有较大影响。解决办法：实际中一般要对多个分类的数目进行尝试，以找出合理的分类结果快速聚类分析及实例第12页，共26页，星期日，2025年，2月5日1选择聚点(聚类中心点)经验选择将n个样品人为地（或随机地）分为k类，以每类的均值向量（称为重心）作为聚点。最大最小原则先选择所有样品中相距最远的两个样品为初始的两个聚点，然后,选择第3个聚点(与前两个聚点的距离最小者),按相同的原则依次选取下去，直至选出k个聚点。第13页，共26页，星期日，2025年，2月5日（1）随机选择聚类种子点或中心点；（2）将每个观察样本分配给最近的种子；（3）重新把每个聚集中的中心点作为种子；（4）不断重复上述过程直到种子的变化足够小为止。快速聚类法的步骤第14页，共26页，星期日，2025年，2月5日快速聚类法的步骤设k个初始聚点的集合是用下列原则实现初始分类：这样，将样品分成不相交的k类，以上初始分类的原则是每个样品以最近的初始聚点归类，这样得到一个初始分类第15页，共26页，星期日，2025年，2月5日2.从