无监督学习与聚类.ppt

SOFM和降维 10.6 谱聚类 谱聚类是一种新的聚类分析方法 谱聚类通过求取矩阵的特征值和特征矢量实现聚类。 令：{x1, …, xn} 为样本集合，wij为样本之间的相似度： 相似矩阵W，Laplacian矩阵L： 谱聚类算法 计算相似矩阵W； 计算Laplacian矩阵L； 计算L的前k个(最小)特征矢量u1,…,uk; 用u1,…,uk作为列矢量构造矩阵U； y1,…,yn为U的行矢量，用K均值算法将其聚成k个类别。 例10.1 将19个样本分成2个聚类。 x1=(0,0)t, x2=(1,0)t, x3=(0,1)t, x4= (1,1)t, x5=(2,1)t, x6=(1,2)t, x7=(2,2)t, x8=(3,2)t, x9=(6,6)t, x10=(7,6)t, x11=(8,6)t, x12= (7,7)t, x13=(8,7)t, x14=(9,7)t, x15=(7,8)t, x16=(8,8)t, x17=(9,8)t, x18=(8,9)t, x19=(9,9)t 特征值 特征值前2个特征值对应特征矢量 0.0000 0.0682 4.3510 5.1267 5.4904 5.9142 5.9461 6.3080 6.4175 6.4826 6.7696 6.9957 7.3704 7.6983 7.7789 7.9342 8.3716 8.6444 8.8704 -0.2294 +0.2740 -0.2294 +0.2728 -0.2294 +0.2731 -0.2294 +0.2715 -0.2294 +0.2694 -0.2294 +0.2699 -0.2294 +0.2655 -0.2294 +0.2553 -0.2294 -0.1838 -0.2294 -0.1920 -0.2294 -0.1954 -0.2294 -0.1953 -0.2294 -0.1968 -0.2294 -0.1978 -0.2294 -0.1969 -0.2294 -0.1977 -0.2294 -0.1984 -0.2294 -0.1985 -0.2294 -0.1991 聚类结果 例10.2 多类别聚类 (0,0), (0,1), (1, 0), (1,1), (0,10), (0,11), (1, 10), (1,11), (10,0), (10,1), (11, 0), (11,1), (10,10), (10,11), (11, 10), (11,11) 特征值： 最大4个特征值对应的特征矢量： 0.0000 0.0008 0.0008 0.0015 3.4477 3.4477 3.4477 3.4477 3.4481 3.4481 3.4481 3.4481 3.6201 3.6201 3.6201 3.6201 -0.2500 +0.0431 +0.3510 +0.2501 -0.2500 +0.0432 +0.3509 +0.2500 -0.2500 +0.0431 +0.3509 +0.2500 -0.2500 +0.0431 +0.3509 +0.2499 -0.2500 +0.3509 -0.0431 -0.2500 -0.2500 +0.3510 -0.0431 -0.2501 -0.2500 +0.3509 -0.0431 -0.2499 -0.2500 +0.3509 -0.0432 -0.2500 -0.2500 -0.3509 +0.0432 -0.2500 -0.2500 -0.3509 +0.0431 -0.2499 -0.2500 -0.3510 +0.0431 -0.2501 -0.2500 -0.3509 +0.0431 -0.2500 -0.2500 -0.0431 -0.3509 +0.2499 -0.2500 -0.0431 -0.3509 +0.2500 -0.2500 -0.0432 -0.3509 +0.2500 -0.2500 -0.0431 -0.3510 +0.2501 原样本分布 K均值聚类 特征矢量矩阵的行矢量 * 3学时 * s1,t2可辨识 t1,s2不可辨识 * N=100, c=5, 组合数超过1067 * 可以引入一定的结束合并准则，实现不设定最终聚类数c的算法。 * 胜者全取 * 当类别数c未知时，可以采用自适应共振网络，ART * E102.m，Matlab演示的是在原空间中权值的修正过程。 模式识别 – 无监督学习与