模式识别第十一讲-第八章 无监督学习.pptVIP

第八章 无监督学习 （聚类分析,Clustering ）; 以前讨论的分类方法都是在已知训练样本类别的基础上进行的。;;例如 ;;1．聚类的定义 ;2．聚类分析的应用;3. 聚类的一般步骤 ; 3）聚类的准则 ;5）聚类结果的验证 ; 不同的特征，不同的相似性度量，不同的聚类准则，不同的算法，对同样的数据可能会得出完全不同的结果。 ;4.两种聚类问题及解决的方法：; 各类样本混合起来，要把属于各类的样本分开。;第二种方法：（聚类，clustering）;θ2; 迭代的动态聚类算法 ;8.2 动态聚类算法的一般步骤;一般步骤如下;8.3 C－均值聚类（ K－均值聚类）算法; J 度量了用C个聚类中心m1，m2，…，mc来代表C个样本子集时，所产生的总的误差平方和。;C均值算法：1、选择任意一个初始划分（把N个样本分为C 类），或任意选择C个初始聚类中心，然后把N个样本按照距离分到最近??聚类中心去。;C-均值聚类算法的两种类型;C-均值聚类算法的收敛性分析; 设某样本yi从聚类?j移至聚类?k中，?j移出yi后的集合记为 ，?k 移入yi 后的集合记为 。 ; 两个新聚类 和 的类内欧氏距离平方 和 与原来的两个聚类?j和?k的类内欧氏距离平方 Jj 和 Jk 的关系是;;C-均值聚类算法的性能;上述的C均值算法是在假定类别数为C的情况下进行的。;C均值聚类算法对非团聚状分布的样本效果不好;8.4 分级聚类方法; 在近邻法的快速算法中，我们曾用一棵树来组织样本集，这是一种自上而下（由顶向下）的样本划分法。我们也可以由底向上把N个样本顺序组织成一些聚类。;用K表示第K次划分，则聚类数C＝N－K+1，K称为划分或聚类的水平（级别、层次）。;y2; 两个聚类Γi和Γj间的相似性度量△（Γi，Γj）是分级聚类的基础。;分级聚类算法：;8.6 无监督学习中的一些问题:; 动态聚类，计算的效率高，但不能反映数据的概率结构，不一定反映数据的真实结构。