模式识别 第四篇 统计判决.ppt

由上式可见，当类概密、损失函数?ij 、类域?i 取定后，R是P(?1)的线性函数。 考虑P(?1)的各种可能取值情况，为此在区间(0,1)中取若干个不同的P(?1)值，并分别按最小损失准则确定相应的最佳决策类域?1 、 ?2 ，然后计算出其相应的最小平均损失R*，从而可得最小平均损失R*与先验概率P(?1)的关系曲线 PA(?1) 1 P(?1) A C D R* B R*B 0 D’ C’ 在此决策类域下，无论 ) ( 1 w P 如何变化，因 0 = b 而使 R 与 ) ( 1 w P 无关，从而使得平均损失 R 恒等于常数, 此时的 ) ( 1 w P 使 * R 取所有最小损失的最大值 按最小损失准则找出P(ω1)对应于(0,1)中的各个 不同P(ω1)值的最佳决策类域?1、 ?2 ; 计算相应各个最佳决策类域的最小平均损失，得 R*～ P(ω1)曲线; 找出使R*取最大值的P*(ω1) ; 运用P*(ω1) 、 P*(ω2) =1- P*(ω1)及?ij构造似然比阈值; 运用最小损失准则下的决策规则 对具体的模式分类识别: 设计步骤 当采用0-1损失函数时，由b=0可得 上式表明，最小最大损失判决导出的最佳分界面应使两类错误概率相等，此时的平均损失为： ?1 ?2 x p(x|?1) p(x|?2) 最小最大损失准则判决域示意图 若采用0-1损失函数，则： 4·4 N-P(Neyman—Pearson)判决 实际问题中，可能存在以下几种情况： ⑴ 不知道各类的先验概率P(?i )； ⑵ 难于确定误判的代价?ij ； ⑶ 某一种错误较另一种错误更为重要。 针对⑴，可以采用最小最大损失准则或令各类概率相等的办法克服； 针对⑵，如果允许，可以避开使用损失函数而采用最小误判概率准则； 针对(3)，可以采用最小损失准则判决。针对上面三个问题，更主要的是针对⑶，可采用N-P准则。 第四章 统计判决 对两类问题,设已知 且 将实属?1类的模式判为属?2类的误判概率为 将实属?2类的模式判为属?1类的误判概率为 令?21=?0=常数，求使?12最小的判决域 运用Lagrage乘子法求条件极值，做辅助函数 选择满足条件 的 的全体作为?1* ,保证所求得的y值y*比?1的其它取法的y值都小 在?1*中, 同理，由下式可得 在?2*中, 将其中一类错误概率作为控制量而使另一类错误概率最小的N-P判决规则为 其中?是N-P判决阈值。 p(l|w2) p(l|w1) ?的值决定着类域?1、?2， ?由?0确定，即选取?，使?21= ?0 为求?，设 是似然比 在 条件下的概率密度，当 时判 ，所以当?0给定后，Lagrange乘子?可由下式确定。 e21 l l W1 W2 e12 妈妈新开了个淘宝店，欢迎前来捧场 妈妈的淘宝点开了快半年了，主要卖的是毛绒玩具、坐垫、抱枕之类的，但生意一直不是很好，感觉妈妈还是很用心的，花了不少功夫，但是就是没有人气，所以我也来出自己的一份力，帮忙宣传一下。 并且妈妈总是去五亭龙挑最好的玩具整理、发货，质量绝对有保证。 另外我家就在扬州五亭龙玩具城旁边，货源丰富，质量可靠，价格便宜。 欢迎大家来逛逛【扬州五亭龙玩具总动员】?99 个人小广告： N-P判决要点 由 确定判决似然比门限? 第四章 统计判决 总结 概念和符号 ---后验概率 ---类条件概率密度，表示在类?i条件下的概率密度，即类?i模式x的概率分布密度 ---先验概率，表示类?i出现的先验概率，简称类?i的概率 4·1最小误判概率准则判决 总的误判概率 t ?1 ?2 x p(x|?1)P(?1) p(x|?2)P(?2) ?21P(?2) ?12P(?1) 两类问题，最小误判概率准则的等价的判决规则 (1) (2) (3) 多类问题，最小误判概率准则的等价判决规则 (1) (2) (3) (4) 多类问题，最小误判概率准则的等价判决规则 4·2 最小损失准则判决 对一个实属?i 类的模式采用了决策?j 所造成损失记为损失函数 条件平均损失 （总的）平均损失 [定理]：使条件平均损失最小的判决也必然使总的平均损失最小。 最小损失准则判决： 两类