基于聚类算法的并行化研究.docVIP

基于聚类算法的并行化研究 　　摘要:聚类是数据挖掘中重要组成部分,为了提高聚类的处理效率,将并行处理技术运用于k-means和PAM算法中,对k-means与PAM算法进行了改进。实验结果表明:并行k-means算法相对串行k-means算法有更好的执行效率;且k-means算法有比PAM算法更好的并行性和可扩展性。最后,该文提出和介绍了将并行技术引入谱聚类算法。 　　关键词:聚类算法;并行;K-means;PAM 　　中图分类号:TP391文献标识码:A文章编号:1009-3044(2009)24-7010-03 　　 　　Research on Parallelizing Based on Clustering Algorithm 　　PENG Hou-wen, YANG Shuang, HE Feng-cheng 　　(Dalian University of TechnologyNational Exemplary Software School, Dalian 116620, China) 　　Abstract: Cluster analysis is an important component of data mining, aiming at improving the executive efficiency of clustering. In this paper, a method of parallel operating is applied to k-means algorithm and PAM algorithm, in order to improve these two algorithms. Experiments show that: parallel k-means algorithm has better performance than serial k-means algorithm; and k-means algorithm has better parallelism and extendibility than PAM algorithm. Finally, this paper puts forward the idea of introducing the method of parallel operating into spectral clustering algorithm technology. 　　Key words: clustering algorithm; parallelizing; k-means PAM 　　 　　所谓数据挖掘,简言之是指在大量的数据中发现、提取潜在的有用信息和知识的过程。聚类分析是数据挖掘法技术中重要组成部分,聚类分析是指根据数据中对象及其之间的关系,将数据对象分组。其目标是,使组内的对象相互之间是相似的(相关的),而不同组中的对象是不同的(不相关的)。组内的相似性(同质性)越大,组间差别越大,聚类效果就越好[1]。 　　由于数据挖掘是从海量数据中提取有用信息,处理效率问题成了对海量数据处理的瓶颈之一,传统的单机串行算法效率较低;由于部分聚类算法中蕴涵并行性,所以为了解决处理效率问题,将并行化的程序设计思想(并行处理)引入聚类算法,同时降低算法的复杂度,使用机群系统进行并行计算,从而有效的缩短聚类的时间。 　　 　　1 K-means算法 　　 　　1.1 传统K-means聚类算法 　　K-means算法以k为输入参数,把包含n个对象的集合分为k个簇,使得结果簇内的相似度高,而簇间的相似度低。簇的相似度是关于簇中对象的均值度量,可以看做簇的质心或重心[2]。 　　传统K-means算法的处理流程如下: 　　输入: k:簇的数目 　　 D:包含n个对象的数据集 　　输出:k个簇的集合 　　方法: 　　1) 从D中任意选择k个对象作为初始簇重心 　　2) Do 　　3) 根据簇中对象的均值,将每个对象(再)指派到最相似的簇 　　4) 更新簇均值,即计算每个簇中对象的均值 　　5) while 数据集中所有对象的平方误差和E不再发生变化 　　通常,采用平方误差准则,其定义如下: 　　其中,E是数据集中所有对象的平方误差和,p是空间中的点,即给定对象,mi是簇Ci的均值(p和mi都是多维的)。换言之,对于每个簇中的每个对象,求对象到簇中心距离的平方再求和。这个准则试图使得生成的k个结果簇尽可能的紧凑和独立。 　　1.2 并行化K-means改进算法 　　随着并行处理技术的快速发展,越来越多的研究人员尝试将并行处理方法应用于提高聚类算法的效率,通过研究发现K-means算法