模式识别-统计判决.pptVIP

1 2 第四章 统计判决 （基础复习） 随机模式分类识别，通常称为 Bayes( 贝叶斯 ) 判决。 主要依据类的概率、概密，按照 某种准则 使分 类结果从统计上讲是最佳的。准则函数不同，所导 出的 判决规则 就不同，分类结果也不同。 本章主要论述分类识别的一般原理、几种重要 的准则和相应的判决规则，正态分布模式类的判决 函数以及它们的性能。 3 4 “概率论”有关概念复习 Bayes 公式： 设实验 E 的样本空间为 S ， A 为 E 的事件， B 1 ,B 2 , … ,B n 为 S 的一个划分，且 P (A)0 ， P (B i )0 ， (i=1,2, … ,n) ，则 : P ( B A | B i ) P ( B i ) i | A ) ? P ( ? P ( A | B i ) P ( B i ) ? n P ( A | B P ( A ) j ) P ( B j ) j ? 1 P ( A ) P ( B i A ) ? P ( B i ) P ( A B i ) 5 “概率论”有关概念复习 P ( A ) P ( B i A ) ? P ( B i ) P ( A B i ) p ( x ? ) P ( ? ? ? i x ) ? P ( ? i ) p ( x ? i ) 条件概率 先验概率： P ( ? i ) 表示类 ? i 出现的先验概率，简称类 ? i 的概率。 后验概率： P ( ? i |x) 表示 x 出现条件下类 ? i 出现的概率 , 称其 为类别的后验概率，对于模式识别来讲可理解为 x 来自类 ? i 的概率。 类概密： p (x| ? i ) 表示在类 ? i 条件下的概率密度，即类 ? i 模 式 x 的概率分布密度，简称为类概密。 7 Bayes 法则－最大后验概率准则 对于两类 ? 1 ， ? 2 问题，直观地，可以根据后验概率做判决： 若 p ( ω 1 | x ) ? p ( ω 2 | x ) 则 x ? ? 1 若 p ( ω 1 | x ) ? p ( ω 2 | x ) 则 x ? ? 2 根据 Bayes 公式，后验概率 p ( ? i / x ) 可由类 ? P ( ? i ) 和条件概率密度 ( x / ? ) i 的先验概率 p i 来表示，即 p ( ? ? p ( x | ? i ) P ( ? i ) p ( x | ? i ) P ( ? i ) i | x ) p ( x ) ? ? 2 p ( x | ? i ) P ( ? i ) i ? 1 式中， p (x| ? i ) 又称 似然函数 (likelihood function of class ? i ) ，可由已知样本求得。 9 将 P ( ? i |x) 代入判别式，判别规则可表示为 若 p ( x | ω 1 ) P ( ? 1 ) ? p ( x | ω 2 ) P ( ? 2 ) 则 x ? ? 1 若 p ( x | ω 1 ) P ( ? 1 ) ? p ( x | ω 2 ) P ( ? 2 ) 则 x ? ? 2 或改写为 l 12 l 12 ? ? p ( x | ? 1 ) P ( ? 2 ) ? ? ? ? 12 则 x ? ? 1 ? p ( x | ? 2 ) P ( ? 1 ) ? ? p ( x | ? 1 ) P ( ? 2 ) ? ? ? ? 12 则 x ? ? 2 ? p ( x | ? 2 ) P ( ? 1 ) l 12 称为 似然比 （ likelihood ratio ）， ? 12 称为似然比的判决阀值。 原则：要确定 x 是属于ω1类还是ω2类，要看 x 是来自于 ω1类的概率大还是来自ω2类的概率大。 10 已知： （统计结果） 先验概率： P ( ? 1 )=1/3 （鲈鱼出现的概率） P ( ? 2 )=1- P ( ? 1 )=2/3 （ 鲑鱼出现的概率 ） 条件概率 ： p ( x | ? 1 ) 见图示 （鲈鱼的长度特征分布概率） p ( x | ? 2 ) 见图示 （鲑鱼的长度特征分布概率） 求：后验概率 ： P ( ? | x =10)=? （如果一条鱼 x ＝ 10 ，是什么类别？） 11 解法 1 ： 利用 Bayes