贝叶斯决策理论课件(PPT50张).ppt

贝叶斯决策理论

;内容;基本概念;决策;Bayes决策常用的准则;基于最小错误率的贝叶斯决策;先验概率;贝叶斯公式：;决策规则：;几种等价形式：;2、似然比;3、似然对数;例：某地区细胞识别；P(ω1)=0.9，P(ω2)=0.1未知细胞x，先从类条件概率密度分布曲线上查到：;P(e|x)=P(?2|x)判定为?1(错误选择?2);;因此，条件错误概率：

P(e|x)=min[P(?1|x),P(?2|x)];平均错误率;下面以两类模式为例，从理论上给予证明：;也可以写为：;对多类决策（假设有c类），很容易写出相应的最小错误率贝叶斯决策规则：;多类别决策过程中，要把特征空间分割成c个区域，可能错分的情况很多，平均错误概率P(e)将由c(c-1)项组成。

直接求P(e)的计算量较大，将代之计算平均正确分类概率P(c),则：;基于最小风险的贝叶斯决策;状态空间：设{?1,?2,…,?c}是c个类别的集合。

决策空间：设{?1,?2,…,?a}是a种决策行为。

损失函数：记?(?i|?j)是类别状态为?j时采用决策行为为?i时所带来的损失(风险)。;对于i=1,…,a，条件风险R(?i|x)定义为：;观察值x是随机向量，不同的观察值x，采取决策?i时，其条件风险的大小是不同的。所以，究竟采取哪一种决策将随x的取值而定。

决策?看成随机向量x的函数，记为?(x),它也是一个随机变量。我们可以定义期望风险R：;期望风险R反映对整个特征空间上所有x的取值采取相应的决策?(x)所带来的平均风险。

条件风险R(?i|x)只是反映对某一观察值x，采取决策?i时，所有类别状态下带来风险的平均值。

显然，我们要求采取的一系列决策行动?(x)使期望风险R最小。;如果在采取每一个决策或行动时，都使其条件风险最小，则对给定的观察值x作出决策时，其期望风险也必然最小。这样的决策就是最小风险贝叶斯决策。其规则为：;已知先验概率P(?j)、类条件概率密度p(x/?j),并给出待识别的x，根据贝叶斯公式，计算出后验概率P(?j/x)。;2.利用后验概率P(?j/x)与损失函数，计算出每个条件期望风险R(?i/x)(一共有a个决策)。

3.在a个R(?i/x)相互比较，找出最小的决策?k，完成最小风险贝叶斯决策。;注意：最小风险贝叶斯决策???了先验概率P(?j)和类条件概率密度p(x/?j)外，还需要有合适的损失函数?(?j,?j)。

在实际中，要列出合适的决策表很不容易，要根据所研究的具体问题，分析错误决策造成损失的严重程度，与有关的专家共同商讨来确定。;例：某地区细胞识别；P(ω1)=0.9，P(ω2)=0.1未知细胞x，先从类条件概率密度分布曲线上查到：;最小错误率决策与最小风险决策之间的关系;此时的条件风险为：;所以在0-1损失函数时，使;Neyman—Pearson决策;假设P2（e）很小，使P2（e）=ε0，ε0是一个很小的常数，在这种条件下再要求尽可能小。

如图所示：;这样的决策可看成是在P2（e）=ε0条件下，求极小值的条件极值问题，用Lagrange乘子法建立数学模型：;取得极小值的边界条件（对t和λ求导）;此时的决策规则为：;分类器设计;多类情况;2.决策面方程;3.分类器设计;两类情况;;举例：

对例2.1和例2.2分别写出其判别函数和决策面方程;ThankYou!;1、想要体面生活，又觉得打拼辛苦；想要健康身体，又无法坚持运动。人最失败的，莫过于对自己不负责任，连答应自己的事都办不到，又何必抱怨这个世界都和你作对？人生的道理很简单，你想要什么，就去付出足够的努力。

2、时间是最公平的，活一天就拥有24小时，差别只是珍惜。你若不相信努力和时光，时光一定第一个辜负你。有梦想就立刻行动，因为现在过的每一天，都是余生中最年轻的一天。

3、无论正在经历什么，都请不要轻言放弃，因为从来没有一种坚持会被辜负。谁的人生不是荆棘前行，生活从来不会一蹴而就，也不会永远安稳，只要努力，就能做独一无二平凡可贵的自己。

4、努力本就是年轻人应有的状态，是件充实且美好的事，可一旦有了表演的成分，就会显得廉价，努力，不该是为了朋友圈多获得几个赞，不该是每次长篇赘述后的自我感动，它是一件平凡而自然而然的事，最佳的努力不过是：但行好事，莫问前程。愿努力，成就更好的你！

5、付出努力却没能实现的梦想，爱了很久却没能在一起的人，活得用力却平淡寂寞的青春，遗憾是每一次小的挫折，它磨去最初柔软的心智、让我们懂得累积时间的力量；那些孤独沉寂的时光，让我们学会守候内心的平和与坚定。那些脆弱的不完美，都会在努力和