贝叶斯决策理论课件.pptxVIP

贝叶斯决策理论;内容;基本概念;决策;Bayes决策常用的准则;基于最小错误率的贝叶斯决策;先验概率;贝叶斯公式：;决策规则：;几种等价形式：;2、似然比;3、似然对数;例：某地区细胞识别； P(ω1)=0.9， P(ω2)=0.1 未知细胞x，先从类条件概率密度分布曲线上查到：;P(e|x)=P(?2|x) 判定为?1(错误选择?2 ); ;因此，条件错误概率： P(e|x) = min [P(?1|x), P(?2|x)] ;平均错误率;下面以两类模式为例，从理论上给予证明：;也可以写为：;对多类决策（假设有c类），很容易写出相应的最小错误率???叶斯决策规则：;多类别决策过程中，要把特征空间分割成c个区域，可能错分的情况很多，平均错误概率P(e)将由c(c-1)项组成。 直接求P(e)的计算量较大，将代之计算平均正确分类概率P(c),则：;基于最小风险的贝叶斯决策;状态空间：设{?1,?2,…,?c}是c个类别的集合。 决策空间：设{?1,?2,…,?a}是a种决策行为。 损失函数：记 ?(?i|?j) 是类别状态为?j时采用决策行为为?i时所带来的损失(风险) 。;对于i = 1,…,a，条件风险R(?i|x) 定义为：;观察值x是随机向量，不同的观察值x，采取决策?i时，其条件风险的大小是不同的。所以，究竟采取哪一种决策将随x的取值而定。 决策?看成随机向量x的函数，记为?(x), 它也是一个随机变量。我们可以定义期望风险R：;期望风险R反映对整个特征空间上所有x的取值采取相应的决策?(x)所带来的平均风险。 条件风险R(?i|x)只是反映对某一观察值x，采取决策?i时，所有类别状态下带来风险的平均值。 显然，我们要求采取的一系列决策行动?(x)使期望风险R最小。;如果在采取每一个决策或行动时，都使其条件风险最小，则对给定的观察值x作出决策时，其期望风险也必然最小。这样的决策就是最小风险贝叶斯决策。其规则为：;已知先验概率P(?j)、类条件概率密度p(x/?j),并给出待识别的x，根据贝叶斯公式，计算出后验概率P(?j/x)。;2. 利用后验概率P(?j/x)与损失函数，计算出每个条件期望风险R(?i/x)(一共有a个决策)。 3. 在a个R(?i/x)相互比较，找出最小的决策?k，完成最小风险贝叶斯决策。;注意：最小风险贝叶斯决策除了先验概率P(?j)和类条件概率密度p(x/?j)外，还需要有合适的损失函数?(?j,?j)。 在实际中，要列出合适的决策表很不容易，要根据所研究的具体问题，分析错误决策造成损失的严重程度，与有关的专家共同商讨来确定。;例：某地区细胞识别； P(ω1)=0.9， P(ω2)=0.1 未知细胞x，先从类条件概率密度分布曲线上查到：;最小错误率决策与最小风险决策之间的关系;此时的条件风险为：;所以在0-1损失函数时，使;Neyman—Pearson决策;假设P2（e）很小，使P2（e）=ε0， ε0是一个很小的常数，在这种条件下再要求尽可能小。 如图所示：;这样的决策可看成是在P2（e）=ε0条件下，求极小值的条件极值问题，用Lagrange乘子法建立数学模型：;取得极小值的边界条件（对t和λ求导）;此时的决策规则为：;分类器设计;多类情况;2.决策面方程;3.分类器设计;两类情况;;举例： 对例2.1和例2.2分别写出其判别函数和决策面方程;Thank You !;9、春去春又回，新桃换旧符。在那桃花盛开的地方，在这醉人芬芳的季节，愿你生活像春天一样阳光，心情像桃花一样美丽，日子像桃子一样甜蜜。12月-2012月-20Wednesday, December 30, 2020 10、人的志向通常和他们的能力成正比例。01:36:2501:36:2501:3612/30/2020 1:36:25 AM 11、夫学须志也，才须学也，非学无以广才，非志无以成学。12月-2001:36:2501:36Dec-2030-Dec-20 12、越是无能的人，越喜欢挑剔别人的错儿。01:36:2501:36:2501:36Wednesday, December 30, 2020 13、志不立，天下无可成之事。12月-2012月-2001:36:2501:36:25December 30, 2020 14、Thank you very much for taking me with you on that splendid outing to London. It was the first time that I had seen the Tower or any of the other famous