原创力文档- 1、本文档共4页，可阅读全部内容。
- 2、原创力文档（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。
- 3、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 4、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 5、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 6、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 7、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 8、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
机器学习|物以类聚，人以群分：聚类分析
2018-01-09
机器学习|物以类聚，人以群分：聚类分析
朗读人：12′16′′|5.62M
20世纪40年代，心理学家·泰昂和雷蒙德·卡泰尔借鉴人类学中的研究方法，提
出“聚类分析”的概念，通过从相关矩阵中提取互相关的成分进行性格因素的研究。随着时间
的推移，聚类分析的应用范围越来越广泛，逐渐演化成种主要的机器学习方法。
聚类分析是种无监督学习方法，其目标是学习没有分类标记的训练样本，以揭示数据的内在
性质和规律。具体来说，聚类分析要将数据集划分为若干个互不相交的子集，每个子集中的
元素在某种度量之下都与本子集内的元素具有更高的相似度。
用这种方法划分出的子集就是“聚类”（或称为“簇”），每个聚类都代表了个潜在的类别。
分类和聚类的区别也正在于此：分类是先确定类别再划分数据；聚类则是先划分数据再确定
类别。
聚类分析本身并不是具体的算法，解决的般任务，从名称就可以看出这项任务的两
个问题：是如何判定哪些样本属于同“类”，二是怎么让同类的样本“聚”在起。
解决哪些样本属于同“类”的问题需要对相似性进行度量。无论采用何种划定标准，聚类分
析的原则都是让类内样本之间的差别尽可能小，而类间样本之间的差别尽可能大。度量相似
性最简单的方法就是引入距离测度，聚类分析正是通过计算样本之间的距离来判定它们是否
属于同个“类”。根据线性代数的知识，如果每个样本都具有NN个特征，那就可以将它
们视为NN中的点，进而计算不同点之间的距离。
作为数学概念的距离需要满足非负性（不小于0）、同性（任意点与其自身之间的距离为
0）、对称换点的顺序不改变距离）、直递性（满足三角不等式）等性质。在聚类分析中
常用的距离是“夫斯基距离”，其定义为
distmk(xi,xj)=(∑n=1N|xin−xjn|p)1p
distmk(xi,xj)=(∑n=1N|xin−xjn|p)1p
式中的pp是个常数。当p=2p=2时，夫斯基距离就变成了欧式距离，也就是通常意义
上的长度。
确定了“类”的标准，接下来就要考虑如何让同类的样本“聚”起来，也就是聚类算法的
设计。目前，公开的聚类算法已经超过了100种，但无监督学习的特性决定了不可能
存在通用的聚类算法。根据应用场景的差别，不同算法在组成聚类的概念以及有效找到聚类的
方法上也会有所区别。针对某种模型设计的算法在其他模型的数据集上表现的塌糊涂也不是
什么新鲜事。接下来我介绍的就是几类最主要的聚类算法及其实例。
层次聚类又被称为基于连接的聚类，其思想源于样本应当与附近而非远离的样本具有更
强的相关性。由于聚类生成的依据是样本之间的距离，因而聚类的特性可以用聚类样本之
间的距离尺度来刻画。聚类的划分是在不同的距离水平上完成的，划分过程就可以用树状
图来描述，这也解释了层次聚类这个名称的来源。
层次聚类对数据集的划分既可以采用自顶向下的拆分策略，也可以采用自底向上的会聚策
略，后者是更加常用的方法。在采用会聚策略的层次聚类算法中，数据集中的每个样本都被
视为个初始聚类。算法每执行步，就将距离最近的两个初始聚类合并，这个过程将直重
复到合并后的数目达到预设数为止。
根据距离计算方式的不同，会聚算法可以分为单算法、全算法和均算法等。单
算法利用的是最小距离，它由两个不同聚类中相距最近的样本决定；全
文档评论（0）