数据挖掘原理及实践.pdf

教育部-IBM产学合作专业综合改革项目精品课程 数据挖掘原理及实践 主讲教师: 吴云峰, 吴梅红, 刘恺之 助教: 罗鑫 厦门大学信息科学与技术学院 Email: cloudswu@ /course/DM 第9章聚类分析 1 聚类分析的基本概念 2 划分方法 3 层次方法 4 基于密度的方法 5 基于网格的方法 6 聚类评估方法 2 9.1 聚类分析的基本概念 • 聚类分析仅根据在数据中发现的描述对象及其关系的信息, 将数据对 象分组。其目标是: – 组内的对象相互之间是相似的 (相关的)。 – 不同组中的对象是不同的 (不相关的)。 • 组内的相似性(同质性)越大, 组间差别越大, 聚类就越好。 • 分类是监督分类(supervised classification), 即用由类标号已知的对象 开发的模型, 对新的、无标记的对象赋予类标号。 • 而聚类是非监督分类(unsupervised classification), 类的标号未知, 用 特有的方法来实现分类。 3 9.1 聚类分析的基本概念-聚类的分类 • 聚类分析算法种类繁多, 具体的算法选择取决于数据类型, 聚类的应用和目的, 常用的聚类算法包括: – 划分方法(PAM: Partitioning method)。首先创建k 个划分, k 为要 创建的划分个数。然后利用一个循环定位技术通过将对象从一个 划分移到另一个划分来帮助改善划分质量。典型的划分方法包括: k-means, k-medoids, CLARA(Clustering Large Application), CLARANS (Clustering Large Application based upon Randomized Search)。 4 9.1 聚类分析的基本概念-聚类的分类 – 层次的方法 (hierarchical method)。创建一个层次以分解给 定的数据集。该方法可以分为自上而下(分解) 和自下而上 (合并) 两种操作方式。为弥补分解与合并的不足, 层次合并 经常要与其它聚类方法相结合, 如循环定位。典型的这类方 法包括: • BIRCH (Balanced Iterative Reducing and Clustering using Hierarchies) 方法, 它首先利用树的结构对对象集进行划分; 然后再利用其它聚类方法 对这些聚类进行优化。 • CURE(Clustering Using Representatives) 方法, 它利用固定数目代表对