基于数据抽样的自动k#8259;means聚类算法.docVIP

基于数据抽样的自动k#8259;means聚类算法 　　摘 要： 为了解决传统k#8259;means算法需要输入k值和在超大规模数据集进行聚类的问题，这里在前人研究基础上，首先在计算距离时引入信息熵，在超大规模数据集采用数据抽样，抽取最优样本数个样本进行聚类，在抽样数据聚类的基础上进行有效性指标的验证，并且获得算法所需要的k值，然后利用引入信息熵的距离公式再在超大数据集上进行聚类。实验表明，该算法解决了传统k#8259;means算法输入k值的缺陷，通过数据抽样在不影响数据聚类质量的前题下自动获取超大数据集聚类的k值。 　　关键词： k#8259;means算法； 信息熵； 最优样本抽取； 有效性指标 　　中图分类号： TN911#8259;34； TP311文献标识码： A 文章编号： 1004#8259;373X（2014）08#8259;0019#8259;03 　　Automatic k#8259;means clustering algorithm based on data sampling 　　LUO Jun#8259;feng， HONG Dan#8259;dan 　　（Information center， Xi’an Jiaotong University， Xi’an 710049， China） 　　Abstract： In order to solve the problems of the traditional k#8259;means algorithm in which k values #8203;#8203;needs to be input and the the ultra#8259;large#8259;scale data set needs to be clustered， on the basis of previous studies， the information entropy is brought in when distance is calculated， and data sampling method is adopted， that is， the optimal samples are extracted from the ultra#8259;large#8259;scale data set to conduct sample clustering. Based on the sample data clustering， the validity indexes are verified and k value required by the algorithm is obtained. The distance formula for information entropy is brought in to carry out clustering on the ultra#8259;large data set. Experiments show that the algorithm can overcome the defects of traditional k#8259;means algorithm for k value input， and can automatically obtain k values #8203;#8203;of ultra#8259;large data clustering under the premise of not affecting the quality of the early data clustering. 　　Keywords： k#8259;means algorithm； information entropy； optimal sample extraction； validity index 　　0引言 　　聚类是数据挖掘中重要的三个领域（关联规则，聚类和分类）之一。它按照特定要求，对待分类的对象进行分类，要求类内相似度尽可能最大，同时类间相似度尽可能最小。k#8259;means[1]算法因其简单实用而成为应用和研究最广泛的算法之一。但是该算法需要事先确定k值，而确定最佳k值一直也是聚类有效性研究的重要课题。一般情况下，确定最佳k值的基本思想为：在k值取值范围内运行k#8259;means算法，得到不同的结果，选择合适的有效性评估指标对结果进行评估，最终确定最佳k值。近年来，许多研究人员对于如何确定最佳k值进行了深入的研究。包括聚类有效性指的研究，如XB（Xie#8259;Beni）[2]，KL（Krzanowski#8259;Lai）[3]，Si