模式识别 第四章 统计判决课件.pptVIP

第四章 统计判决;例子——癌症普查：;对人们测量细胞的特征向量 代表的某个人属于第i类的后验概率： 决策规律：;若已知两类特征向量分布的类条件概率密度函数 贝叶斯公式、全概率公式;将P(?i|x)代入判别式，判别规则可表示为;概念和符号;例：对一批人进行癌症普查，?1 :患癌症者; ?2 :正常人。 模式特征x=x(化验结果),x=1：阳性；x=0：阴性。 已知：（统计结果） 先验概率：P(?1)=0.005 P(?2)=1-P(?1)=0.995 条件概率：p(x=阳|?1)=0.95 p(x=阴|?1)=0.05 p(x=阳|?2)=0.01 求：呈阳性反映的人是否患癌症？;解：利用Bayes公式;写成似然比形式;最小误判概率准则判决域示意图;两种错误 设 和 类出现的概率分别为 和 ，则总的误判概率是 误判概率 最小等价于使正确分类概率 最大，即;多类问题，最小误判概率准则有如下几种等价的判决规则 ;多类问题，最小误判概率准则有如下几种等价的判决规则 ;;4.1.2 正态模式最小误判概率判决准则的具体形式; ?i类的判决函数可以表为 去掉与类别无关的项并不影响分类判决结果，故可简化为;决策-损失表;条件平均风险;由贝叶斯公式，上式可以写为 平均损失或平均风险;4.2.2 最小损失准则判决;对于两类问题;若记似然比阈值 则两类问题的判决规则为 如果 则判 0-1损失（?ii=0, ?ij=1 ）条件下 最小损失判决?最小错误判决;例4.2.2：设,正常细胞??1 ，异常细胞??2 ，已知 P(?1)=0.9, P(?2)=0.1 ； ； ?11= 0,?12=1,?21=6, ?22=0。试用最小误判概率准则和最小损失准则判断该细胞是正常的还是异常? ;(2)当依据损失进行判决时，计算条件平均损失 由于 ,因此判 。之所以这两个判决结果相反，是因为?21取得较大的缘故。 ;4.2.3 含拒绝判决的最小损失判决;设 , , 这时 要使 即 亦即 ;含拒判决策的最小损失判决规则为;对于两类问题，存在拒判决策的条件是;4·3 最小最大损失准则 实际中，类先验概率 P(?i) 往往不能精确知道或在分析过程中是变动的，从而导致判决域不是最佳的。所以应考虑如何解决在 P(?i) 不确知或变动的情况下使平均损失变大的问题。 ;对于两类问题，设一种分类识别决策将特征空?间分划为两个子空间?1和?2，记?ij为将实属?i类的模式判为?j的损失函数，各种判决的平均损失为 ;利用;由上式可见，当类概密、损失函数?ij 、类域?i 取定后，R是P(?1)的线性函数。 考虑P(?1)的各种可能取值情况，为此在区间(0,1)中取若干个不同的P(?1)值，并分别按最小损失准则确定相应的最佳决策类域?1 、 ?2 ，然后计算出其相应的最小平均损失R*，从而可得最小平均损失R*与先验概率P(?1)的关系曲线;; 按最小损失准则找出P(ω1)对应于(0,1)中的各个 不同P(ω1)值的最佳决策类域?1、 ?2 ; 计算相应各个最佳决策类域的最小平均损失，得 R*～ P(ω1)曲线; 找出使R*取最大值的P*(ω1) ; 运用P*(ω1) 、 P*(ω2) =1- P*(ω1)及?ij构造似然比阈值; 运用最小损失准则下的决策规则 对具体的模式分类识别: ;当采用0-1损失函数时，由b=0可得;;4·4 N-P(Neyman—Pearson)判决 实际问题中，可能存在以下几种情况： ⑴ 不知道各类的先验概率P(?i )； ⑵ 难于确定误判的代价?ij ； ⑶ 某一种错误较另一种错误更为重要。 针对⑴，可以采用最小最大损失准则或令各类概率相等的办法克服； 针对⑵，如果允许，可以避开使用损失函数而采用最小误判概率准则； 针对(3)，可以采用最小损失准则判决。针对上面三个问题，更主要的是针对⑶，可采用N-P准则。 ;对两类问题,设已知;令?21=?0=常数，求使?12最小的判决域;选择满足条件 的 的全体作为?1* ,保证所求得的y值y*比?1的其它取法的y值都小;p(l|w2); 妈妈新开了个淘宝店，欢迎前来捧场 妈妈的淘宝点开了快半年了，主要卖的是毛绒玩具、坐垫、抱枕之类的，但生意一直不是很好，感觉妈妈还是很用心的，花了不少功夫，但是就是没有