哈尔滨工业大学-模式识别课程-10. 无监督与模糊学习2学时.pptVIP

【改进的模糊C 均值算法】 正确聚类(C=4) CM聚类(C=3) FCM聚类(C=3) AFC聚类(C=3) 例二：给定类别数与实际类别数不一致的情况 * 改进的模糊C均值算法 改进的模糊C均值算法较前面提到的模糊C均值算法具有更好的鲁棒性，它不但可以在有孤立样本存在的情况下得到较好的聚类效果，而且可以放松隶属度条件，而且因为放松了隶属度条件，使最终聚类结果对预先确定的聚类数目不十分敏感。 与确定性C均值算法和模糊C均值算法一样，改进的模糊C均值算法仍然对聚类中心的初值十分敏感，为了得到较好的结果，可以用确定性C均值算法或模糊C均值算法的结果作为初值。 【改进的模糊C 均值算法】 2.6. 模糊k 近邻分类器 【基本概念】 k 近邻的一个问题：当样本较稀疏时，只考虑样本近邻顺序而不考虑距离远近是不适当的。 模糊k 近邻： * 模糊集理论是为了表达人的自然语言和推理中的不确定方面而提出的，因此其应用中往往不可避免地带有一定的主观因素，比如隶属度函数的选取、模糊推理规则等，也正因为如此，它能够比较好地把人们的先验知识和常识加到一个智能系统中。 虽然人们也试图用传统概率论来描述模糊理论，指出它在本质上与传统的概率论是一致的，但是至少从工程应用的角度看，模糊技术仍有它十分重要的优势。 概率意义上的不确定性和模糊概率意义上的不确定性的含义还是有区别的。 【讨论】 * 模糊集理论从一开始就和推理系统结合得更紧密，因此在模式识别中，模糊技术在句法模式识别中的应用也非常活跃。 在诸如决策树这种推理性质的模式识别系统中，模糊逻辑也得到了很好的应用。 【讨论】 本章结束 【近邻函数准则算法】 1.3 分级聚类方法 （Hierachical Clustering） 【分级聚类方法 】 思想：从各类只有一个样本点开始，逐级合并，每级只合并两类，直到最后所有样本都归到一类。 Hierarchical tree -- dendrogram 聚类过程中逐级考查类间相似度，依此决定类别数 树枝长度：反映结点/树枝之间的相似度或距离 树枝位置：在不改变树结构情况下可以任意调整，调整方法需研究 距离/相似性度量：多种选择，如欧式距离、相关、City Block、… 【分级聚类方法 】 距离（相似性度量）： 样本之间的度量 聚类之间的度量 算法（从底向上）： （1）初始化，每个样本形成一类 （2）把相似性最大（距离最小）的两类合并 （3）重复（2），直到所有样本合并为两类。 【分级聚类方法 】 【分级聚类方法 】 2. 模糊学习 2.1. 引言 2.2. 模糊集的基本知识 2.3. 模糊特征和模糊分类 2.4. 特征的模糊评价 2.5. 模糊聚类方法 2.6. 模糊k 近邻分类器 2.1.引言 * 1965年，Zadeh提出了著名的模糊集理论，创建了一个新的学科 —— 模糊数学 (L.A. Zadeh, “Fuzzy Sets”, Information and Control, Vol. 8, 1965, 338-353.) 。 模糊集理论是对传统集合理论的一种推广 传统集合理论：一个元素或者属于一个集合，或者不属于一个集合； 模糊集理论：每一个元素都是以一定的程度隶属于某个集合，也可以同时以不同的程度属于几个集合。 现实生活中大量使用的一些含义确定但又不准确的语言表述，比如“今天天气很热”，“车速很高”等，模糊数学能够较好地表达。 【引言】 * 模糊数学的几种不同名称 模糊集：它是相对于经典的集合理论而言的； 模糊逻辑：它是相对于传统的“是或者不是”而言的； 模糊数学：是一种更广泛的叫法，更倾向于指从数学角度对模糊集和模糊逻辑的研究； 模糊系统：从应用的角度，用来指采用了模糊数学思想和理论的方法或系统，而其中采用的一些技术往往称为模糊技术或模糊方法。 模糊数学名词本身也具有很大的模糊性，但其实质都是基本相同的，因此这里不去严格区分这些说法。 【引言】 * 应用： 和人工神经网络相结合，产生了模糊神经网络； 应用到自动控制中，产生了模糊控制技术和系统，并得到了很好的效果（地铁模糊控制系统，洗衣机、电饭锅的模糊控制等）； 应用到模式识别领域，产生了模糊模式识别。 【引言】 * 模糊模式识别： 模式识别是模糊技术应用研究的活跃领域 针对一些模糊式识别问题设计了相应的模糊模式识别系统； 对传统模式识别的一些方法，人们用模糊数学对它们进行了改进。 模糊技术在模式识别中的研究与应用逐渐形成了模糊模式识别这一新的学科分支。 【引言】 2.2. 模糊集的基本知识 【基本概念】 【基本概念】 其它应用领域：航天测试数据分析领域 【基本概念】 【基本概念】 2.3. 模糊特征的分类 【特征的模糊化】 基本思想：根据一定的模糊化规则把原来的一个（或几个）