模式识别郝旷荣Chap2(MSSB-HKR).ppt

第二章 贝叶斯决策理论与  统计判别方法 §2.1 引 言　　§2.2 几种常用的决策规则　　§2.3 正态分布时的统计决策　　§本章小节　　§本章习题 2.2.2 基于最小风险的贝叶斯决策 例2.2 　　在例2.1条件的基础上，并且已知λ11=0,(λ11表示λ(α1|ω1)的简写)，λ12=6,λ21=1，λ22=0，按最小风险贝叶斯决策进行分类。　　解：已知条件为　　P(ω1)＝0.9, P(ω2)＝0.1　　p(X|ω1)＝0.2, p(X|ω2)＝0.4　　λ11＝0, λ12＝6, λ21＝1, λ22＝0 根据2.1的计算结果可知后验概率为　　P(ω1|X)＝0.818, P(ω2|X)＝0.182　　再按式(2-14)计算出条件风险 2.2.2 基于最小风险的贝叶斯决策 再按式(2-14)计算出条件风险 由于R(α1|X)＞R(α2|X)　　即决策为ω2的条件风险小于决策为ω1的条件风险，因此应采取决策行动α2，即判待识别的细胞X为ω2类——异常细胞。 　　 2.2.2 基于最小风险的贝叶斯决策 将本例与例2.1相对比，其分类结果正好相反，这是因为影响决策结果的因素又多了一个“损失”。由于两类错误决策所造成的损失相差很悬殊，因此“损失”在这里起了主导作用。 从以上讨论可以看出，正确制订损失函数值，是基于最小风险的贝叶斯决策方法在实际中使用的一个关键问题。 而实际中列出合适的决策表并不是一件容易的事，需根据所研究的具体问题，分析错误决策造成损失的严重程度，与有关专家共同商讨来确定 　　 2.2.2 基于最小风险的贝叶斯决策 上面两种决策方法之间的关系 设损失函数为， (2-17) 式中假定对C类只有C个决策，不考虑“拒绝”等其它情况，(2-17)表明，当作出正确决策(即i=j)时没有损失，而对于任何错误决策，其损失均为1。这样定义的损失函数称为0—1损失函数。 2.2.2 基于最小风险的贝叶斯决策 根据(2-14)式条件风险为 (2-18) 而 也恰恰是将X判为ωi时的错误概率。因此基于最小风险的贝叶斯决策结果，在0—1损失函数情况下，也就是基于最小错误概率的贝叶斯决策结果。 最小错误率贝叶斯决策就是在0—1损失函数条件下的最小风险贝叶斯决策。换句话说，前者是后者的特例。 实际上 ，因此，当 最大时 最小。与基于最小错误率的贝叶斯决策的判据一样。 2.2.2 基于最小风险的贝叶斯决策 如果我们只考虑两类别问题，并只有一维特征向量的情况，我们可以画出一张与图2.4类似的图，用来表示最小风险贝叶斯决策方法的分类结果。 与图2.3不同的是，R1与R2两个区域的分界线不再是t,而是向左移了一段距离，这是由于损失函数λ12比λ21大所造成(可以假设λ11＝λ22＝0)，在发生位移这一区域内，尽管P(x|ω1)P(ω1)P(x|ω2)P(ω2)，但是为了减少将ω2错判为ω1所带来的严重损失，在P(x|ω2)P(ω2)尚不很小的情况下，使将ω2类样本错判为ω1的可能性减小，以减小决策所承担的风险。当然平均错误率则明显增大了。 2.2.2 基于最小风险的贝叶斯决策 图中紫线为分类线，左边被识别为第1类，右边为第2类，两条曲线为概率分布曲线，紫线左侧红线以下表示把第二类错分为第一类的可能性，另一块灰色区域含义类似。整个灰色区域加权后可以表示风险。 2.2.2 基于最小风险的贝叶斯决策 (2-13)式定义了样本为X作出i决策时的期望风险 一种是由于样本存在分属各类的可能性，而对实属一类却决策成i类会造成程度不同的损失，因而期望损失应是风险系数 与 相乘之总和。 另一种看法可以将损失看成是对后验概率的重要性作加权， 是对 的加权系数。因此只要 稍大一点，就会使风险明显增大。 公式(2-17)与(2-1