案例means聚类算法.pptx

K-Means聚类算法计算机科学与技术专业苏光琪

聚类算法简介K-means算法详解K-means算法的性能分析与改进

聚类的目标：将一组向量分成若干组，组内数据是相似的，而组间数据是有较明显差异。与分类区别：分类与聚类最大的区别在于分类的目标事先已知，聚类也被称为无监督机器学习。聚类手段：传统聚类算法①划分法②层次方法③基于密度方法④基于网络方法⑤基于模型方法123聚类算法简介

什么是K-means算法？Q1：K是什么？A1：k是聚类算法当中类的个数。Summary：K-means是用均值算法把数据分成K个类的算法！Q2：means是什么？A2：means是均值算法。

K-means算法流程从数据中随机抽取k个点作为初始聚类的中心，由这个中心代表各个聚类。计算数据中所有的点到这k个点的距离，将点归到离其最近的聚类里。调整聚类中心，即将聚类的中心移动到聚类的几何中心（即平均值）处，也就是k-means中的means的含义。4.重复第2步直到聚类的中心不再移动，此时算法收敛。

K-means算法详解步骤一：取得k个初始初始中心点

MinofthreeduetotheEuclidDistance步骤二：把每个点划分进相应的簇

MinofthreeduetotheEuclidDistance步骤三：重新计算中心点

步骤四：迭代计算中心点

步骤五：收敛

Ox50450552数据对象集合S如表，作为一个聚类分析的二样本，要求的簇的数量k=2。(1)选择，为初始的簇中心，即，。(2)对剩余的每个对象，根据其与各个簇中心的距离，将它赋给最近的簇。对：显然，故将分配给；同理，将分配给，分配给。更新，得到新簇和={O2,,}。计算平方误差准则，单个方差为

总体平均方差是：（3）计算新的簇的中心。重复（2）和（3），得到O1分配给C1；O2分配给C2，O3分配给C2，O4分配给C2，O5分配给C1。更新，得到新簇和。中心为：，计算单个方差分别为：总体平均方差是：由上可以看出，第一次迭代后，总体平均误差值52.25-25.65，显著减小。因为再进行两次迭代后，簇中心不变，所以停止迭代，算法停止。

K-means算法的性能分析主要优点：1.是解决聚类问题的一种经典算法，简单、快速。2.对处理大数据集，该算法是相对可伸缩和高效率的。3.当结果簇是密集的，而簇与簇之间区别明显时,它的效果较好。主要缺点：1.在簇的平均值被定义的情况下才能使用，这对于处理符号属性的数据不适用。2.必须事先给出k（要生成的簇的数目），而且对初值敏感，对于不同的初始值，可能会导致不同结果。3.它对于“躁声”和孤立点数据是敏感的，少量的该类数据能够对平均值产生极大的影响。

K值的选择及噪点讨论k值的选取及噪点危害性？下面以一个例子来说明k值选取的重要性。

为什么会出错？上面的例子当中出错的原因很明显。凭直觉我们很容易知道不可能有这样的天气——它的气温是100℃，湿度是1100%。可见坏点对k-means的影响之大。另一方面，季节有春夏秋冬之分，而我们强行的把它们分为夏冬两个类也是不太合理的。如果分为四个类我们也许可以“中和”掉坏点的影响。究竟哪里错了！！！

k-means的改进初始聚类的选择，尽可能分散，不要挤在一起。多次选择不同的初始点，将结果平均之。k-medoids是泛化的k-means，能有效地处理非欧氏空间的问题。GMM(GaussianMixtureModels)与k-means类似，但是算出的是概率。

谢谢共同学习