文件数据分析(聚类分析)a.docx

聚类分析： 聚类分析（Cluster Analysis）是一个将数据集中的所有数据，按照相似性划分为多 个类别（Cluste，r 簇）的过程； 簇是相似数据的集合。 聚类分析是一种无监督分类方法：数据集中的数据没有预定义的类别标号（无训练集和训练的过程）。 要求：聚类分析之后，应尽可能保证类别相同的数据之间具有较高的相似性，而类别不同的数据之间具有较低的相似性。 聚类分析在数据挖掘中的作用： 作为一个独立的工具来获得数据集中数据的分布情况； 首先，对数据集执行聚类，获得所有簇； 然后，根据每个簇中样本的数目获得数据集中没类数据的大体分布情况。 作为其他数据挖掘算法的预处理步骤。 首先，对数据进行聚类——粗分类； 然后，分别对每个簇进行特征提取和细分类，可以有效提高分类精度。 聚类分析的典型应用： 空间数据分析 图像处理——灰度图像的二值化（对灰度像素进行聚类）。 万维网 对 WEB 日志数据进行聚类，以发现类似的用户访问模式。 金融领域 用户交易数据的聚类分析，以获得奇异点（异常交易）。 …… QSD 1 QSD2 QSD 2 常用的聚类分析方法： 划分法：以距离作为数据集中不同数据间的相似性度量，将数据集划分成多个簇。 属于这样的聚类方法有：K-means、K-medoids 等。 层次法：对给定的数据集进行层次分解，形成一个树形的聚类结果。 属于这样的聚类方法有：自顶向下法、自底向上法。 相似性计算方法 在聚类分析中，样本之间的相似性通常采用样本之间的距离来表示。两个样本之间的距离越大，表示两个样本越不相似性，差异越大； 两个样本之间的距离越小，表示两个样本越相似性，差异性越小。 特例：当两个样本之间的距离为零时，表示两个样本完全一样，无差异。 样本之间的距离是在样本的描述属性（特征）上进行计算的。 在不同应用领域，样本的描述属性的类型可能不同，因此相似性的计算方法也不尽相同。 连续性属性（如：重量、高度、年龄等） 二值离散型属性（如：性别、考试是否通过等） 多值离散型属性（如：收入分为高、中、低等） 混合类型属性（上述类型的属性至少同时存在两种） 连续性属性的相似性计算方法： 对于连续型属性，样本之间的相似性通常采用如下三种距离公式计算。 QSD 3 QSD PAGE 10 QSD PAGE 10 二值离散型属性的相似性计算方法： 二值离散型属性只有 0 和 1 两个取值。 其中：0 表示该属性为空，1 表示该属性存在。 例如：描述病人的是否抽烟的属性，取值为 1 表示病人抽烟，取值为 0 表示病人不抽烟。 假设二值离散型属性的两个取值具有相同的权重，则可以得到一个两行两列的可能性矩阵。 多值离散型属性的相似性计算方法： 多值离散型属性是指取值个数大于 2 的离散型属性。例如：成绩可以分为优、良、中、差。 混合类型属性的相似性计算方法： 在实际中，数据集中数据的描述属性通常不只一种类型，而是各种类型的混合体。 连续型属性 二值离散型属性 多值离散型属性 常用聚类方法：划分方法和层次方法划分方法： l k Mm ea n s 算法 ·rL·，儿上I I 如 1·ililu n .1f-m e已叩 Th :e l－ 沁 ll ...占 a lRa rit hm 伽·1 飞 1·ht i叩 i ns, ｀．、如 也 如 如 心nt亡l. - ql 、Pr 天 mcd. 荨 liiy th c m cn rl 田 Ju o·f th h je.: 卞: ill: 加 妞 t c-r k: tl1C n1Lmber of c归 tm . 氐 心， J 心 心 中 心 i ll inS” o b 户扛 至 ．飞c t nf k d IJI士 ri . －-· 仆 l .irb itn rLl)· n“心 沁 k ob阳C, ta·o,m l.) as 由c init iaK l,U_!jtc“ ` ren K r ii; － ·．I·f1 凶 丘pe 斗I 3) lm la 5竘n ach objcc:t to 1Lh 亡 C，IJ1J和l Ic r lo which 巾c ob jm kthcm bascd UII [ he n-.lC}lI I 心 I ut·o t Ih o bi 仅 m in Il 忙 L.lu51cr i 5im Uar . (.I) UIx`l ,1e Il.l比 中 业 「 Il“l mc h elII、止 r;  比 1h3L i\ LJ _IL U1北 LI比. 1［ I立 I 刘 u匕 l们 如 心 j红 1s f.UI ( 5 ) ILIill .ti 1 11u ch m 心 i I k -m