数据挖掘聚类分析第六章.pptVIP

K-均值聚类K-均值聚类方法是最简单、最常用的使用使用准则的方法。K-均值聚类是属于划分方法中的基于质心技术的一种方法。划分的思路是以k为参数，把n个对象分为k个类，以使类内具有较高的相似度，而类间的相似度较低。相似度的计算根据一个类中对象的平均值(被看作类的重心)来进行。第6页,共19页，星期六，2024年，5月K-均值聚类的处理流程如下。首先，随机选择k个对象，每个对象都初始地代表一个类的平均值或中心。对剩余的对象，根据其与各自类中心的距离，将它赋给最近的类。然后重新计算每个类的平均值。这个过程不断重复，直到准则函数收敛。第7页,共19页，星期六，2024年，5月注意：类均值的初始值是任意分配的，可以随机分配也可以直接使用前K个成员的属性值。第8页,共19页，星期六，2024年，5月K-均值聚类实例假设给定如下要进行聚类的元组：{2,4,10,12,3,20,30,11,25}，并假设k=2.初始时用前两个数值作为类的均值；m=2和m=4.利用欧几里德距离，可得K1={2,3}和K2={4,10,12,20,30,11,25}。数值3与两个均值的距离相等，所以任意地选择K1作为其所属类。在这种情况下，可以进行任意指派。计算均值可得m1=2.5和m2=16。重新对类中的成员进行分配，不断重复上述过程，直至均值不再变化。第9页,共19页，星期六，2024年，5月具体过程如表：m1m2K1K224{2,3}{4,10,12,20,30,11,25}2.516{2,3,4}{10,12,20,30,11,25}318{2,3,4,10}{12,20,30,11,25}4.7519.6{2,3,4,10,11,12}{20,30,25}725{2,3,4,10,11,12}{20,30,25}第10页,共19页，星期六，2024年，5月注意在最后两步中类的成员是一致的，由于均值不再变化，所以均值已经收敛了。因此，该问题的答案为:K1={2,3,4,10,11,12}和K2={20,30,25}K-均值法要求定义的类均值存在，并且要以期望的类的数目k作为输入。要求用户必须事先给出k（要生成的类的数目）可以算是该方法的一个缺点。而且，它对于“噪声”和孤立点数据是敏感的，少量的该类数据能够对平均值产生极大的影响。第11页,共19页，星期六，2024年，5月K-Means聚类示例第12页,共19页，星期六，2024年，5月增量聚类在越来越多的应用中，必须对收集来的大量数据进行聚类。“大量”的定义随着技术的改变而不同。在六十年代，“大量”意味着几千个聚类的样本。现在，有些应用涉及到成千上万个高维样本的聚类。增量聚类方法是最流行的，我们将解释它的基本原理，下面是增量聚类方法的所有步骤：第13页,共19页，星期六，2024年，5月1、对样本排序后，把第一个数据项分配到第一个类里。2、考虑下一个数据项，把它分配到目前某个类中或一个新类中。给分配是基于一些准则的，例如新数据项到目前类的重心的距离。在这种情况下，每次添加一个新数据项到一个目前的类中时，需要重新计算重心的值。3、重复步骤2，直到所有的数据样本都被聚类完毕。第14页,共19页，星期六，2024年，5月例如：设x1=(0,2),x2=(0,0),x3=(1.5,0),x4=(5,0),X5=(5,2)假定样本的顺序是：X1,X2,X3,X4,X5,类间相似度的阈值水平是s=3。1、第一个样本X1将变成第一个类C1={x1}.x1的坐标就是重心坐标M1={0，2}。2、开始分析其他样本。a)把第2个样本x2和M1比较，距离d为:d(x2,M1)==2.03第15页,共19页，星期六，2024年，5月因此，x2属于类C1，新的重心是：M1={(0,1)}b)第3个样本x3和重心M1（仍是仅有的重心）比较：d(x3,M1)=C)第4个样本X4和重心M1比较：第16页,共19页，星期六，2024年，5月d(x4,M1)=因为样本到重心M1的距离比阈值s大，因此该样本将生成一个自己的类C2={X4},其相应的重心为M2={5，0}。d)第5个样本和这两个类的重心相比较：