k-均值问题的理论与算法综述_张冬梅.pdfVIP

中国科学:数学2020年第50卷第9期:13871404

SCIENTIASINICAMathematica

论文

均值问题的理论与算法综述

献给越民义教授100华诞

12∗33

张冬梅李敏徐大川张真宁

1.山东建筑大学计算机科学与技术学院,济南250101;

2.山东师范大学数学与统计学院,济南250014;

3.北京工业大学数学学院,北京100124

E-mail:zhangdongmei@sdjzu.edu.cn,liminemily@sdnu.edu.cn,xudc@bjut.edu.cn,zhangzhenning@bjut.edu.cn

收稿日期:2019-11-16;接受日期:2020-02-26;网络出版日期:2020-09-09;*通信作者

国家自然科学基金(批准号:和、山东省高校科研计划(批准号:J17KA171)、山东省自然科学基金(批准号:

ZR2019MA032)和北京市教委科技项目(批准号:KM201810005006)资助项目

摘要k-均值问题是理论计算机科学和组合优化领域的经典问题之一.相应的Lloyd算法是数据挖掘

的十大经典算法之一,在各种领域被广泛研究和应用,特别是在图像处理和特征工程方面.随着数据

多样性和数据量的爆炸性增长,在实际应用中遇到的k-均值聚类问题更加复杂多样,产生了各种亟需

解决的具有挑战性的研究课题.k-均值问题在理论上是NP-难的.本文介绍经典k-均值问题及其变

形的基于局部搜索、线性规划舍入、原始对偶、对偶拟合和Lagrange松弛等技术的有效算法.首先介

绍经典k-均值问题的近似算法、加倍度量空间中的有效多项式时间近似方案及满足稳定性实例的多

项式可解性,然后介绍k-均值问题的若干重要变形,包括k-中位、球面k-均值、鲁棒k-均值、带约

束的k-均值和隐私保护k-均值等问题,最后列出k-均值领域中的若干公开问题.

关键词-均值近似算法线性规划

主题分类90C27,68W25

引言

在机器学习中,无监督学习(unsupervisedlearning)的目的是通过对无标记样本的学习来揭示数

据的内在性质和规律.无监督学习中研究最多、应用最广的是聚类(clustering)(参见文献[1]).给定若

干对象组成的集合,聚类就是将这个集合分成多个聚簇(cluster),每个聚簇由相似的对象组成,不同聚

簇中的对象差异较大.与分类不同,聚类对要划分的对象的类别是未知的.互联网技术的深入应用带

来了数据多样性和数据量的爆炸增长,获得各种类型有标签的数据变得非常困难,有时预先获得标签

英文引用格式ZhangDM,LiM,XuDC,etal.Asurveyontheoryandalgorithmsfork-meansproblems(inChinese).SciSin

Math,2020,50:1387–1404,doi:10.1360/SSM-2019-0280

⃝《中国科学》杂志社

张冬梅等:-均值问题的理论与算法综述

都是困难的,因此,数据聚类技术愈来愈受到重视.聚类算法在许多数据驱动的应用领域都是非常核

心的算法.

k-均值(k-means)聚类是一种重要的数据聚类技术.经典的k-均值问题可描述为:给定n个元

素的观测集,其中每个观测点都是d维实向量,目标是选取k(n)个点作为聚类中心,把n个观测

点划分到k个集合(每个集合对应一个聚类中心)中,使得所有观测点到对应的聚类中心的距离的平

方和最小.容易证明,对于任意给定集合,最优的聚类中心是该集合中所有观测点的均值点.在k-均

值聚类中,针对各种实际问题,可能会对距离给出不