基于密度和对象方向聚类算法的改进.pdfVIP

基于密度和对象方向聚类算法的改进 孟海东 张玉英 内蒙古科技大学网络中心,包头 014010 摘 要 针对 算法所存在的问题进行了深入的研究,提出了基于密度和聚类对象方向的改进算法 算法 。 K-means KADD 该算法采取聚类对象分布密度方法来确定初始聚类中心,然后根据对象的聚类方向来发现任意形状的簇。理论分析与实 验结果表明,改进算法在不改变时间、空间复杂度的情况下能取得更好的聚类结果。 关键词 数据挖掘 聚类 K-means算法 KADD算法 文章编号 文献标识码 中图分类号 1002-8331-200620-0154-03 A TP301 ImprovedClusteringAlgorithm BasedonDensityandDirection MengHaidong ZhangYuying , , NetworkCenterInnerMongoliaUniversityofScienceandTechnologyBaotou014010 : Abstract TheexistingproblemsofK-meansclusteringalgorithm arecarefullyresearched.AnimprovedK-means , algorithm basedondensityanddirectionKADD ispresentedwithwhichinitialclusteringcenterpointsarelocated accordingtotheclusteringobjectsdistributiondensity.Andtheclusterswitharbitrarydistributionsarebindbasedon objectdirection.Theoryanalysisandexperimentalresultsdemonstratethattheimprovedalgorithm can getbetter clusteringresultswithoutchangingefficiencyanddimensionalcomplexity. : , , , KeywordsdataminingclusteringK-meansalgorithmKADDalgorithm 1 引言 可扩展的,并且具有较高的效率。 算法所存在的问题是: 算法要求用户事先给出 要生 聚类分析是一种无指导机器学习方法,基于 “物以类聚”的 1 K 原理,将数据对象分组成多个类或簇,使同一个簇中的对象之 成的簇的数目 ,这在某些应用中是不实际的。如果用户不具备 专门的领域知识,这个 值的选定是非常困难的。 有效初 间具有较高的相似度,而不同簇中的对象之间具有较高的相异 K 2 [3] 度[1] 始聚类中心点的选取也是相当困难的 ,因为在该算法中是随 。聚类算法已广泛应用在模式识别、图像处理、过程优化、配 机的选取任意 个点作为初始聚类中心,选取的点不同,聚类 方设计等许多领域中,并取得了良好效果,受到了人们广泛重 K 视。根据对象间相似性度量和聚类评价准则的不同,常用的聚 结果可能就不同,所以算法的聚类结果对初值的依赖是很强 类方法大致包括:划分方法、层次的方法、基于密度的方法、基 的,这样的依赖性导致聚类结果的不稳定。目前,选择初始点的 [4] [1] 问题还没有一个简单、普遍适用的解决办法 。 目标函数采 于网格的方法和基于模型的方法等。K-means是一种基于划 3 分的聚类算法,因为它有理论上可靠、算法简单、速度快等优点 用平方误差函数,为了得到较好的聚类结果就要尽量使目标函 而被广泛使用。 数最小化。单一的度量方法不适合于发现任意形状的簇,而只 能发现球形或差别很小的簇。 算法采用簇的质心来代表一 4 [2] 个簇,质心是簇中其他对象的参照点,因此算法对 “噪声”和孤 2 K-means算法 分析 [5] 立点数据是敏感的 。 输入:个对象的数据库,期望得到簇的数目 。 n k 输出:使得平方误差准则函数最小化的 个簇。 k 选择 个对象作为初始的簇的质心 3 基于密度和对象方向的改进算法———KADD 1 k 针对K-means算法中存在的问题,本文提出了一种基于 2repeat [6] 密度 和对象方向的改进算法 计算对象与各个簇的质心的距离,将对象划分到距离其最近 K-meansAlgorithmbasedon 3 DensityandDirection, ,简称 算法。该算法包括 的簇 KADD KADD 重新计算每个新簇的均值 四个基本步骤: 4 簇的质心不再变化 5until 计算对象间的相异度,形成相异度矩阵 ; 1 M 通过以上