基于非负约束的谱聚类方法.docVIP

基于非负约束的谱聚类方法 　　摘要：聚类问题一直是模式识别和机器学习领域一个比较活跃而且极负挑战性的研究方向。谱聚类是近年来兴起的一类较流行的聚类方法。该文将非负约束引入到传统的谱聚类方法中，提出了一种基于非负约束的谱聚类方法。非负约束已在许多应用领域被证明是一种有用的性质。文中对比实验表明，基于非负约束的谱聚类方法在整体上明显优于传统的谱聚类方法。 　　关键词：谱聚类；非负约束；聚类；非负矩阵分解 　　中图分类号：TP311文献标识码：A文章编号：1009-3044(2011)17-4165-03 　　A Spectral Clustering Method with the Nonnegative Constraint 　　WANG Chun-teng1, FU Chuan-yi2, Xing Jie-qing2 　　(1.College of Electronic Information Engineering of Qiongzhou university, Sanya 572022, China; 2.Department of Modern education technology, Qiongtai teachers college, HaikoU 571100,China) 　　Abstract: Clustering is a challenging and active research topic in pattern recognition and machine learning. Spectral clustering is a new method for clustering. In this paper, the nonnegative constraint is introduced into the traditional spectral clustering. The NMF-based is proposed. The advantage of the nonnegative constrain has been conformed in many application fields. The results of the experiments in the paper evaluate the proposed method. 　　Key words: spectral clustering; nonnegative constraint; clustering; nonnegative matrix factorization 　　 聚类分析是模式识别和机器学习中重要研究课题之一。所谓聚类(clustering)就是将给定数据对象集合划分为多个类或簇(cluster)，使得在同一簇中的对象之间具有较高的相似度，而不同簇中的对象差异较大。在现有的聚类方法中，k-均值聚类是最简单、使用最普遍的方法之一。类似于K-均值，这些传统的聚类算法大多是基于中心的方法，是建立在凸球形的样本空间上。当样本空间不满足凸形时，算法容易陷入局部最优。谱聚类算法(spectral clustering algorithm)避免了这个问题。该算法建立在图论中的谱图理论基础上，其本质是将聚类问题转换为图的最优划分问题。与传统的聚类算法相比，谱聚类算法将聚类转换为一个代数上的矩阵求解问题，具有能在任意形状的样本空间上聚类且收敛于全局最优解的优点[1]。 　　在现实世界中，许多信号数据是分非的，例如，图像、文本等。由这些现实领域收集的样本组成的数据矩阵是非负数据 矩阵。进过一般的谱运算，例如SVD、PCA等，得到的目标特征向量中通常含有许多负值。在许多应用中，非负约束被引入。我们希望得到的目标特征向量中仅含有非负的数据。这个约束在许多情况下是很有意义的。一方面，使得到的样本特征具有现实的物理意义；另一方面，这种约束的引入更有利于在目标映射中保持样本的局部特征。非负矩阵分解（Non-negative Matrix Factorization，简称NMF）正是为解决这个问题而提出的[2-3]。自提出以来，许多文献对其进行了研究。一些文献是基于算法和模型变形的[2-6]，而另一些是基于应用的，非负矩阵分解已经被成功地应用于许多领域，包括生物信息学[7-8]，物理学[9]，多媒体数据[10]，文本挖掘[11-12]等。其中最成功的应用是数据聚类[13]。 　　本文就NMF的这种优势引入到传统的谱聚类方法中，提出了一种基于非负约束的谱聚类方法NMFSC。 　　1 非负矩阵分解 　　给定一个n×m的非负矩阵V，其中n＜m。 　　目标问题：希望得到V的近似分解表示，即V≈WH。其中W和H分别为n