二分K均值聚类算法在Iris上测试.docxVIP

二分K均值聚类算法在Iris上的测试 目录 TOC \o 1-3 \h \u  HYPERLINK \l _Toc16425 一、问题背景  PAGEREF _Toc16425 3  HYPERLINK \l _Toc14709 二、解决思路  PAGEREF _Toc14709 4  HYPERLINK \l _Toc10142 （1）K均值算法思想  PAGEREF _Toc10142 4  HYPERLINK \l _Toc11816 （2）二分K均值算法  PAGEREF _Toc11816 4  HYPERLINK \l _Toc18921 三、实验结果  PAGEREF _Toc18921 5  HYPERLINK \l _Toc16697 （1）数据集  PAGEREF _Toc16697 5  HYPERLINK \l _Toc12668 （2）实验结果  PAGEREF _Toc12668 7  HYPERLINK \l _Toc31820 四、观察分析  PAGEREF _Toc31820 9  HYPERLINK \l _Toc11901 参考文献  PAGEREF _Toc11901 10  HYPERLINK \l _Toc28603 附录  PAGEREF _Toc28603 11  HYPERLINK \l _Toc13697 附录1 实验数据汇总结果展示  PAGEREF _Toc13697 11  HYPERLINK \l _Toc21722 附录2 二分K均值算法功能实现主要代码  PAGEREF _Toc21722 13  PAGE \* MERGEFORMAT 13 一、问题背景 目前，对于聚类问题的研究普遍存在于社会生活中的各个领域，如模式识别，图像处理、机器学习和统计学等。关于对生活中各种各样的数据的聚类分类问题己经成为众多学者的研究热题之一[1]。聚类和分类的区别在于，聚类没有任何先验知识可循，要通过数据自身的特点，将数据自动的划分到不同的类别中。聚类的基本形式定义为“在已给的数据集合中寻找数据点集的同类集合。每一个集合叫做一个类，并确定一个区域，在区域中对象的密度高于其他区域中的密度”[2]。 聚类方法有很多种，其中最简单的形式便是划分式聚类，划分式聚类试图将给定的数据集合分割成不相交的子集，使具体的聚类准则是最优的。实际中应用最广泛的准则是聚类误差平方和准则，即对于每一个点都计算它到相应的聚类中心点的平方距离，并对数据集合上的所有点的距???进行求和。一种最流行的基于最小聚类误差平法和的聚类方法是K-均值算法。K-均值算法是一种基于划分的聚类算法，它通过不断的迭代来进行聚类，当算法收敛到一个结束条件时就终止迭代过程，输出聚类结果。由于其算法思想简便，又容易实现对大规模数据的聚类，因此K-均值算法己成为一种最常用的聚类算法之一[3]。K-均值算法能找到关于聚类误差的局部的最优解，是一个能应用在许多聚类问题上的快速迭代算法。它是一种以点为基础的聚类算法，以随机选取的初始点为聚类中心，迭代地改变聚类中心来使聚类误差最小化。 K-均值算法由于其聚类过程简单，易于实现，因此已经成为当前最常用的聚类算法之一。但是K-均值的算法的聚类结果容易受到初始聚类中心点的选取的影响，不稳定，且容易受到数据中的噪声点、离群点的影响[4]。并且在K-均值方法的迭代过程中由于初值的选取就有随机性就会导致聚类容易陷入局部最优，而找不到全局最优。K-均值缺点详细介绍如下： 第一，K-均值算法中的K值必须由用户输入，在算法的流程图中我们可以看出，K-值是必须是一个用户最先确定的参数。K-均值方法必须在 K-值已知的前提下才能进行聚类。但是在一些实际问题的求解过程中，自然簇的个数K是没有事先给出的，通常是用户所不知道的。 第二，K-均值聚类算法对于噪声和离群点数据非常敏感，聚类结果很容易受到数据中所含有的噪声和离群点的影响。该算法中在簇的质心求解过程中，是通过对每个簇求均值得到的，当数据集中含有噪声和离群点数据时，在计算质心时将导致聚类中心偏离数据真正密集的区域，而得到的聚类中心将向噪声和离群点数据所在的区域偏移， 然后在此基础上进行数据点的重新分配，这必然会引起聚类结果的不准确[5,6]。 二、解决思路 本课程主要针对K均值的有点以及对K值的初始选择这一限制，设计一种改进的K-均值聚类方法，即二分K均值算法。通过查阅资料总结，二分K均值算法可以加速K-均值算法的执行速度，因为它的相似度计算少了[7]。另外二分K均值算法不受初始化问题的影响，因为这里不存