浅谈模式识别(五).pdfVIP

5 模式识别 (Pattern Recognition) 武汉大学计算机学院 Email: yuanzywhu@163.com 第3章 Bayes决策理论(Cont.) 3.1 Bayes决策的引入 3.2 分类器的描述方法 3.3 最小错误率Bayes决策 3.4 最小风险Bayes决策 3.5 Neyman-Pearson决策 3.6 最小最大风险决策 3.7 正态分布Bayes决策 3.8 Bayes分类器算法和例题 3.9 序惯分类（*:了解） 3.6 最小最大风险决策 (Minimax Criterion) 最小错误概率Bayes决策 (最大后验概率判决准)是使分 类的平均错误概率最小，最小风险Bayes决策是使分类的平 均风险最小，Neyman-Pearson决策是假设在一类错误率固 定的条件下使另一类的错误率最小。 在实际应用中经常遇到的是各类先验概率不能精确得 知或者在分析过程中发生变动。 这就使得判决结果不能达 到最佳，实际分类器的平均损失要变大，甚至变得很大。 在这种情况下可采用最小最大风险 (Minimize the maximum possible overall risk)判决准则，它的基本思想是在最 差的(即最大的可能风险)情况下争取最好的结果。 条件风险(Conditional risk)： M R (α | x ) E ⎡λ α ,ω ⎤ def λ α ,ω P ω | x ,i 1, 2,...,c.(c ≤M ) i ⎣ ( i j )⎦ ∑ ( i j ) ( j ) j 1 前面的三种判决准则讨论的都是假定先验概率不变的 情况，现在讨论在P( ω)变化时如何使最大可能风险最小， i 先验概率P( ω)与期望风险(总风险/平均风险：overall risk)R i 间的变化关系如下： M p(x) 为样本向量x R R α x | x p x dx R (α | x )p (x )dx ∫Rd ( ( ) ) ( ) ∑∫R j d j 1 j 在R 空间中的概 率密度 R α x | x p x dx =+ R α x | x p x dx ∫R ( 1 ( ) ) ( ) ∫R ( 2 ( ) ) ( ) 1 2 {λα( ,ω )p (ω | )p ( )=+λα( ,ω )p (ω | )p ( )}d x x x x x ∫R 1 1 1 1 2 2 1 + {λα( ,ω )p (ω | )p ( )+λα( ,ω )p (ω | )p ( )}d x x