k-mens算法.docxVIP

PAGE \* MERGEFORMAT12 目录 TOC \o 1-3 \h \z \u HYPERLINK \l _Toc435886293 1. 算法简介 PAGEREF _Toc435886293 \h 1 HYPERLINK \l _Toc435886294 2. 算法原理及实现 PAGEREF _Toc435886294 \h 1 HYPERLINK \l _Toc435886295 2.1聚类算法的要点 PAGEREF _Toc435886295 \h 1 HYPERLINK \l _Toc435886296 2.2 k-means算法描述 PAGEREF _Toc435886296 \h 2 HYPERLINK \l _Toc435886297 2.3 k-means算法流程 PAGEREF _Toc435886297 \h 3 HYPERLINK \l _Toc435886298 3. 算法性能分析 PAGEREF _Toc435886298 \h 3 HYPERLINK \l _Toc435886299 3.1 k-means算法优缺点分析 PAGEREF _Toc435886299 \h 3 HYPERLINK \l _Toc435886300 3.1.1 k-means算法优点 PAGEREF _Toc435886300 \h 3 HYPERLINK \l _Toc435886301 3.1.2 k-means算法缺点 PAGEREF _Toc435886301 \h 4 HYPERLINK \l _Toc435886302 3.1.3 ISODATA算法 PAGEREF _Toc435886302 \h 5 HYPERLINK \l _Toc435886303 4. k-means算法的改进算法 PAGEREF _Toc435886303 \h 7 HYPERLINK \l _Toc435886304 4.1 k-mode算法 PAGEREF _Toc435886304 \h 7 HYPERLINK \l _Toc435886305 4.2 k-prototype算法 PAGEREF _Toc435886305 \h 7 HYPERLINK \l _Toc435886306 4.3 k-中心点算法 PAGEREF _Toc435886306 \h 8 HYPERLINK \l _Toc435886307 5. 实验结果 PAGEREF _Toc435886307 \h 8 HYPERLINK \l _Toc435886308 6. 总结 PAGEREF _Toc435886308 \h 12 算法简介 k-means算法，也被称为k-平均或k-均值，是一种得到最广泛使用的聚类算法。它是将各个聚类子集内的所有数据样本的均值作为该聚类的代表点，算法的主要思想是通过迭代过程把数据集划分为不同的类别，使得评价聚类性能的准则函数达到最优，从而使生成的每个聚类内紧凑，类间独立。这一算法不适合处理离散型属性，但是对于连续型具有较好的聚类效果。 算法原理及实现 2.1聚类算法的要点 (1)选定某种距离作为数据样本间的相似性度量? k-means聚类算法不适合处理离散型属性，对连续型属性比较适合。因此在计算数据样本之间的距离时，可以根据实际需要选择欧式距离、曼哈顿距离或者明考斯距离中的一种来作为算法的相似性度量，其中最常用的是欧式距离。下面我给大家具体介绍一下欧式距离。 假设给定的数据集X=xmm=1,2,…,total，X中的样本用d个描述属性A1,A2,…,Ad来表示，并且d个描述属性都是连续型属性。数据样本xi=xi1,xi2,…,xid,?xj 欧式距离公式如下： d (2)选择评价聚类性能的准则函数? k-means聚类算法使用误差平方和准则函数来评价聚类性能。给定数据集X，其中只包含描述属性，不包含类别属性。假设X包含k个聚类子集X1,X2,…,X 误差平方和准则函数公式为：E= (3)相似度的计算根据一个簇中对象的平均值来进行。 a)将所有对象随机分配到k个非空的簇中； b)计算每个簇的平均值，并用该平均值代表相应的簇； c)根据每个对象与各个簇中心的距离，分配给最近的簇； d)然后转b)，重新计算每个簇的平均值。这个过程不断重复直到满足某个准则函数才停止。 2.2 k-means算法描述 (1)为中心向量c1,c2 (2)分组： a)?将样本分配给距离其最近的中心向量； b)?由这些样本构造不相交（non-overlapping）的聚类； (3)确定中心： a)?用各个聚类的中心向量作为新的中心； (4)重复分组和确定中心的步骤，直至