凝聚层次聚类算法的改进.docVIP

  凝聚层次聚类算法的改进 张宏，李欣欣* （哈尔滨理工大学 计算机科学与技术学院，哈尔滨 150080） 5 10 15 20 25 30 35 40 摘要：凝聚型层次聚类算法是一个非常有用的聚类算法,它在迭代地凝聚每次接近对直到所 有的数据都属于同一个簇。但层次聚类也存在缺点,如聚类时的时空复杂性高;聚类的簇效率 低、误差较大等。本文在综合分析凝聚型层次聚类算法的缺点和借鉴前人算法的基础上,提 出了一种改进算法能够减小时间复杂性。实验证明该算法是一种速度更快、效率更高的算法。 关键词： 算法理论；聚类；层次聚类；堆 中图分类号：请查阅《中国图书馆分类法》 ON IMPROVEMENT OF COHESIVE HIERARCHICAL CLUSTERING ALGORITHM Zhang Hong, Li Xinxin (Haerbin University of Science and Technology,School of Computer Science and Technology,Haerbin 150080) Abstract: A prominent and useful class of algorithm is hierarchical agglomerative clustering (HAC) which iteratively agglomerates the closest pare until all data points belong to one cluster. However, HAC methods have several drawbacks, such as high time and memory complexities when clustering, insufficient and inaccurate cluster validation.In this paper, an improved algorithm based on a comprehensive analysis of cohesive hierarchical clustering algorithm and learn from the shortcomings of previous algorithms is proposed which can reduce the time complexity. Experiments show that this algorithm is a faster, more efficient. Key words: Algorithm theory;Clustering;HAC;Heap 0 引言 随着数据挖掘研究领域技术的发展,作为数据挖掘主要方法之一的聚类算法,也越来越受 到人们的关注。数据挖掘(DataMining)又称知识发现( KDD) ,其实是知识发现过程的一个步骤. 它是从数据库、数据仓库或其他信息库中便捷地抽取出以前未知的、隐含的、有用的信息, 所挖掘出来的知识可应用于信息管理、决策支持、过程控制和其它许多应用。所谓聚类，就 是把大量的 d 维数据样本( n 个)聚集成 k 个类( k, n) ,使同一类内样本的相似性最大,而不同类 中样本的相似性最小。聚类分析[1]作为数据挖掘中的一种分析方法,它可以作为一个单独的工 具以发现数据库中数据分布的一些深入的信息。并且概括出每一类的特点,或者把注意力放 在某一个特定的类上以作进一步的分析;聚类分析也可以作为数据挖掘算法中其他分析算法 的一个预处理步骤。迄今为止, 人们提出了很多种不同的适用于数据挖掘的聚类算法[2], 试 图解决各种领域的聚类问题, 但这些算法仅适用于特定的问题及用户, 而且它们在理论和方 法上仍不完善, 甚至还有严重的不足之处。通过对聚类算法中的凝聚型层次算法进行研究分 析, 得到了一种基于该算法的改进算法, 并在实验中取得了较好结果。下面本文将对传统的 凝聚型层次算法和改进后的算法进行对比式的介绍。 作者简介：张宏（1964），男，副教授 硕士生导师，企业信息. E-mail: 381865659@ -1- 1 凝聚型层次聚类介绍   1.1  凝聚型层次聚类算法的基本思想 凝聚型层次聚类[3]又称为合并型层次聚类是一种自底向上的方法,将每一个对象看作一 个聚类, 把它们逐渐合并成越来越大的聚类。在每一层中, 根据一些规则将距最近的两个聚 45 50 55 60 65 70 75 类合并, 直到满足预先设定的终止条件。例如, 所有的对象最终合为了一类, 或者聚类的数 目到了预定值, 或者最近的两个类之间的距离达到预定的阈值。给定包含 n 个对象的数据集