模式识别第二章贝叶斯决策理论.pptVIP

可见,朴素贝叶斯分类器将此实例分类为no,将上述概率归一化,可得到朴素贝叶斯分类器分类此实例为no的概率是0.0192/(0.0069+0.0191)=0.7346 思考：根据顾客的基本情况来判断其是否会买电脑给定如表所示的14个训练实例,其中每一个顾客属性age，income，student和credit-rating来描述,类属性为buys-computer。 现有一测试实例， 问此顾客是否会买电脑 可见,朴素贝叶斯分类器将此实例分类为yes，将上述概率归一化,可得到朴素贝叶斯分类器分类此实例为yes的概率是0.0264/(0.0264+0.0086)=0.7543 朴素贝叶斯分类器的结构： * 0.0475 0.0995 * 第i类样本X判别为第j类的风险LijP(wi|X) 在传送带上用光学传感器件对鱼按品种分类 鲈鱼(Seabass) 品种 鲑鱼(Salmon) 设计一个自动分类系统对两种鱼进行自动分类 数据获取：架设一个摄像机，采集一些样本图像，获取样本数据 预处理：去噪声，采用图象分割技术，用一个分割操作把鱼和鱼之间以及鱼和背景之间分开，得到单个物理对象的图像。 特征提取和选择：对单个鱼的信息进行特征选择，从而通过测量某些特征来减少信息量 长度 亮度 宽度 鱼翅的数量和形状 嘴的位置，等等 … 分类决策：把特征送入决策分类器 根据长度进行分类 Salman一般较短， sea bass一般较长 根据亮度进行分类 Salman一般较暗， sea bass一般较亮 特征向量=（长度，亮度） x=(x1,x2) 样本: (x,y), x：该样本对应的特征向量 y: 该样本的类别，y=+1(salman)或y=-1(sea bass) 使用一个特征亮度对这两种鱼进行表示。新来了一条鱼特征是x(亮度)，怎么根据特征x确定它到底是鲈鱼ω1还是鲑鱼ω2？ 已知数据：鲈鱼类标号ω1，鲑鱼类标号ω2。鲈鱼总数量占所有鱼总数量的比率为P(ω1)，鲑鱼总数量占所有鱼总数量的比率为P(ω2)。假设这条鱼的亮度x在分类为鲈鱼时出现的概率为p(x|ω1),这条鱼的亮度x在分类为鲑鱼时出现的概率为p(x|ω2)。 如何求解？可以求出x属于鲈鱼ω1的概率P(ω1|x)和x属于鲑鱼ω2的概率P(ω2|x)。如果P(ω1|x)P(ω2|x)，就认为x是鲈鱼。现在的问题是如何求P(ω1|x)和P(ω2|x)。 基本假设： 给定模式空间S，由m个互不相交的模式类集合 组成，即 ， 假定类 的先验概率为 ，特征向量x的类条件概率密度函数 ，表示当样本 时，特征向量 的概率密度函数；特征向量的后验概率 ，表示在特征向量 出现的条件下，样本 来自类 的概率，即类 出现的概率 把样本归入后验概率最大的类别中。 最大后验概率判决准则使平均错误概率达到最小。 如果p(ω1|x)p(ω2|x)，则判决x属于ω1； 如果p(ω1|x)p(ω2|x)，则判决x属于ω2； 如果p(ω1|x)=p(ω2|x)，则判决x属于ω1或属于ω2； 如何求P(ω1|x)和P(ω2|x)？ 有一个概率公式： 从而推出： 换一种写法： 把样本归入后验概率最大的类别中。最大后验概率判决准则使平均错误概率达到最小。 如果p(ω1|x)p(ω2|x)，则判决x属于ω1； 如果p(ω1|x)p(ω2|x)，则判决x属于ω2； 如果p(ω1|x)=p(ω2|x)，则判决x属于ω1或属于ω2； 如何求P(ω1|x)和P(ω2|x)？ 这就是著名的贝叶斯公式。其中P(ωj)叫做先验概率，就是类别出现的可能性；p(x|ωj)叫条件概率，就是在ωj时x出现的可能性；p(ωj|x)叫后验概率；p(x)是该样例出现的可能性。 因此： 1.若 ，则x属于ωj ，如果p(ω1|x)p(ω2|x)，那么就认为x属于ω1，同理于： 2.若