基于监督学习的模式识别方法专业知识讲座.pptVIP

文档来源于网络，文档所提供的信息仅供参考之用，不能作为科学依据，请勿模 仿。文档如有不当之处，请联系本人或网站删除。 模式与模式识别 模式 ：模式是对某些感兴趣的客体的定量的或结构的 描述 ， 模式类是具有某些共同特性的模式的 集合 。在模式识别学 科中，常常不区分“模式”和“模式类” 模式识别 ：把对象根据其特征划分到若干类别中适当的一 类 ? 模式指的并不是事物本身，而是对事物的一种描述，也就 是我们从事物获得的信息 ? 模式识别的过程就是建立分类器的过程 ? 一些模式识别的例子：语音识别，字符与文字识别，人脸 识别等等 文档来源于网络，文档所提供的信息仅供参考之用，不能作为科学依据，请勿模 仿。文档如有不当之处，请联系本人或网站删除。 模式识别的方法 模式识别方法主要分为基于 知识 的方法和基于 数据 的方法 基于知识的方法 ：根据人们已知的关于研究对象的知识， 整理出若干描述特征与类别关系的准则，对未知样本通过 这些知识推理决策其类别。主要利用先验的知识 基于数据的方法 ：不利用先验知识，完全依靠训练样本来 建立样本与模式之间的联系，属于一种机器学习的分类方 法。基于数据的方法是模式识别最主要的方法 对象 G S LM x y y 文档来源于网络，文档所提供的信息仅供参考之用，不能作为科学依据，请勿模 仿。文档如有不当之处，请联系本人或网站删除。 基于数据的模式识别方法 基于数据的模式识别方法可以分为两种：监督模式识别和 非监督模式识别 监督模式识别 ：基于一定数量的类别已知的训练样本建立 分类器，也是模式识别的主要方法 非监督模式识别 ：事先不知道要划分什么类别，更没有类 别已知的样本用作训练，主要进行聚类分析 文档来源于网络，文档所提供的信息仅供参考之用，不能作为科学依据，请勿模 仿。文档如有不当之处，请联系本人或网站删除。 监督模式识别方法 文档来源于网络，文档所提供的信息仅供参考之用，不能作为科学依据，请勿模 仿。文档如有不当之处，请联系本人或网站删除。 贝叶斯决策法 核心思想 ：根据对象归于某个模式的概率来进行决策分类 问题：已知对象的特征 x ，以及 n 个类别 ω 1 ~ ω n ，求对象属 于哪个类别 贝叶斯公式： ? ? ? ? ? ? ?? , 1 , 2 . . . , n i i i p x P P x i p x ? ? ? ? ? P(ω i ) ：先验概率 p(x|ω i ) ：类条件概率密度 p(x) ：总体概率密度 P(ω i |x) ：后验概率 文档来源于网络，文档所提供的信息仅供参考之用，不能作为科学依据，请勿模 仿。文档如有不当之处，请联系本人或网站删除。 贝叶斯决策法 最小错误率决策法 样本的错误率 ： 决策的错误率 ：样本错误概率的期望 ?? ? ? ? ? | d P e P exp x x ? ? ? ? ? ? | | , i j i j p e x P x x ? ? ? ? ? ? 最小错误率决策法即让 P(e) 达到最小。由于 p(x) 是固定的， 所以等价于对于所有 x 都让 P(e|x) 取最小。由样本 x 的错误率 计算公式可知，最小错误率决策等价于如下一种决策： ? ? ? ? 1 , . . . , n | m a x | i j j P x P x ? ? ? ? 若 则 i x ? ? 文档来源于网络，文档所提供的信息仅供参考之用，不能作为科学依据，请勿模 仿。文档如有不当之处，请联系本人或网站删除。 贝叶斯决策法 最小错误率决策法 根据贝叶斯公式： ? ? ? ? ? ? ?? , 1 , 2 . . . , n i i i p x P P x i p x ? ? ? ? ? 重点讨论离散概率模型下的概率估计方法 文档来源于网络，文档所提供的信息仅供参考之用，不能作为科学依据，请勿模 仿。文档如有不当之处，请联系本人或网站删除。 贝叶斯决策法 朴素贝叶斯分类器 朴素贝叶斯分类器（ Naive Bayes Classifier ） ：假定特征 各分量是相互独立的，因此类条件概率可写为 ? ? ? ? ? ? 1 2 1 | , , . . . , | | m m j j P x P x x x P x ? ? ? ? ? ? ? 即根据 的最大值来进行分类决策 ? ? ? ? 1 | m i j i