模式识别第七章非监督分类.pptVIP

第七章 非监督学习方法 主要内容 7.1 引言 有监督学习（supervised learning)：用已知类别的样本训练分类器，以求对训练集的数据达到某种最优，并能推广到对新数据的分类?? 非监督学习（unsupervised learning) ：样本数据类别未知，需要根据样本间的相似性对样本集进行分类(聚类，clustering)?? 方案对比 （1）多维空间投影方法 多维空间y中直接划分成单峰区域比较困难，把它投影到一维空间x中简化问题。 （1）投影方法算法步骤 计算样本y协方差矩阵的最大特征值对应的特征向量u，把样本数据投影到u上，得到v=uTy； 用直方图法求边缘概率密度函数p(v)； 找到边缘概率密度函数的各个谷点，在这些谷点上作垂直于u的超平面把数据划分成几个子集； 如果没有谷点，则用下一个最大的特征值代替； 对所得到的各个子集进行同样的过程，直至每个子集都是单峰为止。 （2）单峰子集分离的迭代算法 （2）单峰子集分离的迭代算法 迭代算法步骤 对数据集进行初始划分：K1, K2, …,Kc 用Parzen方法估计各聚类的概率密度函数 按照最大似然概率逐个对样本xk进行分类： 若没有数据点发生类别迁移变化，则停止。否则转2 7.3 类别分离的间接方法 两个要点:相似性度量，准则函数 相似性度量 样本间相似性度量: 特征空间的某种距离度量 样本与样本聚类间相似