现代机器学习 课件 第9章 聚类方法 .pptx

第9章聚类方法;

9.1聚类方法概述;

为了更加简单地认识聚类,我们可以将聚类过程描述为:假设样本集X={x1,x2,…,xn}中包含n个未标记的样本,其中每个样本xi=(xi1,xi2,…,xim)为一个m维的特征向量,聚类方法是为了将样本集X划分为j个不相交的类{Ck|l=1,2,…,j},同时使用λk∈{1,2,…,j}表示样本xi的类标记,使用类标记向量λ=(λ1,λ2,…,λn)表示聚类的结果。;

为了完成一个聚类任务,通常需要进行以下几个步骤:

(1)选择特征。

(2)选择近邻测度。

(3)选择聚类准则。

(4)选择聚类算法。

(5)验证结果。

(6)判定结果。;

9.2K均值聚类;

K均值聚类的策略是通过最小化损失函数来找到对样本集合最好的划分(其中划分用C来表示),每个划分对应一种聚类结果。样本之间距离的计算可以采用欧氏距离,但是为了便于计算,一般会采用欧氏距离的平方,即;;

K均值聚类最终迭代得到了k个聚类中心,赋予每个样本对应的类别。四类的K均值聚类示意图如图9.1所示。;

为了优化损失函数,K均值聚类算法采用了迭代的方式,每次的迭代包含两个步骤。

第一步,选择k个聚类的中心(c1,c2,…,ck),然后将每个样本都分类到与其最近的中心对应的类中,从而得到一个聚类的划分。也