贝叶斯决策理论.pptVIP

第二章 贝叶斯决策理论 ③损失函数 它明确表示本身属于自然状态 ，做出决策 使其归属于 所造成的损失。 63 2.3 基于最小风险的Bayes决策 ， 第六十三页，共九十页。 2.1 Bayes决策的基本概念 第二章 贝叶斯决策理论 是表示在X出现条件下，样品为 类的概率。在这里要弄清楚条件概率这个概念。 31 第三十一页，共九十页。 2.1 Bayes决策的基本概念 第二章 贝叶斯决策理论 4、 和 与 和 的区别 ① 和 是在同一条件X下，比较 和 出现的概率。 32 第三十二页，共九十页。 2.1 Bayes决策的基本概念 第二章 贝叶斯决策理论 ① 如 则可以下结论，在X条件下，事件 出现的可能性大。 两类情况下，则有 33 如图4－4所示。 第三十三页，共九十页。 2.1 Bayes决策的基本概念 第二章 贝叶斯决策理论 ② 与 两者之间没有联系，比较两者没有意义。 34 都是指各自条件下出现X的可能性， 第三十四页，共九十页。 2.2 基于最小错误率的Bayes决策 第二章 贝叶斯决策理论 35 第三十五页，共九十页。 2.2 基于最小错误率的Bayes决策 第二章 贝叶斯决策理论 假定得到一个待识别量的特征X后，每个样品X有 个特征，即 通过样品库，计算先验概率 及类条件概率密度函数 ，得到呈现状态X时，该样品分属各类别的概率， 36 显然这个概率值可以作为识别对象判属的依据。 第三十六页，共九十页。 2.2 基于最小错误率的Bayes决策 第二章 贝叶斯决策理论 基于最小错误概率的贝叶斯决策就是按后验概率的大小做判决的。这个规则又可以根据类别数目，写成不同的几种等价形式。 37 从后验概率分布图4－4可见，在X值小时，药品被 判为正常是比较合理的，判断错误的可能性小。 第三十七页，共九十页。 第二章 贝叶斯决策理论 两类问题 若每个样品属于 ， 类中的一类，已知两类的先验概率分别为 和 ，两类的类条件概率密度分别为 和 则任给一X，判断X的类别。 38 2.2 基于最小错误率的Bayes决策 由Bayes公式可知： 由全概率公式可知： 其中M为类别。 第三十八页，共九十页。 第二章 贝叶斯决策理论 对于两类问题 所以用后验概率来判别为： 39 2.2 基于最小错误率的Bayes决策 第三十九页，共九十页。 第二章 贝叶斯决策理论 判别函数还有另外两种形式，即似然比形式： 其中，式中的 在统计学中称为似然比。 称为似然比阈值，其对数形式： 三种判别函数是一致的。也可以用后验概率来表示判别函数。 40 2.2 基于最小错误率的Bayes决策 第四十页，共九十页。 第二章 贝叶斯决策理论 判别函数的一般形式，如图4－5所示。 41 2.2 基于最小错误率的Bayes决策 2.多类问题 第四十一页，共九十页。 第二章 贝叶斯决策理论 若样品分为M类 各类的先验概率分别为 … 各类的类条件概率密度分别为 … 就有M个判别函数。 42 2.2 基于最小错误率的Bayes决策 2.多类问题 第四十二页，共九十页。 第二章 贝叶斯决策理论 在取得一个观察特征X之后，在特征X的条件下，看 哪个类的概率最大，应该把X归于概率最大的那个类。 43 2.2 基于最小错误率的Bayes决策 因此对于任一模式X，可以通过比较各个判别函数来确定X的类别。 其中， 把X代入M个判别函数中，看哪个判别函数最大，就把X归于这一类。 第四十三页，共九十页。 第二章 贝叶斯决策理论 判别函数的对数形式为： 44 2.2 基于最小错误率的Bayes决策 其中， 第四十四页，共九十页。 第二章 贝叶斯决策理论 在大多数情况下，类条件概率密度可以采用多维变量 的正态概率密度函数来模拟。 45 2.2 基于最小错误率的Bayes决策 此时正态分布的Bayes分类器判别函数为： 第四十五页，共九十页。 第二章 贝叶斯决策理论 使用什么样的决策原则可以做到错误率最小呢？ 然后根据后验概率最大的类来分类。 46 2.2 基于最小错误率的Bayes决策 这个条件是要知道一个样品X分属不同类别的可能性，表示成 后验概率要通过Bayes公式从先验概率与类分布函数来计算。 第四十六页，共九十页。 第二章 贝叶斯决策理论 基于最小错误率的Bayes决策根据： 如果 则 注意：由于统计判别方法是基于统计参数做出决策，因此错误率 也只能从平均的意义上讲，表示为在观测值可能取值的整个范围 内错误率的均值。 47 2.2 基于最小错误率的Bayes决策 3.最小错误率证明 第四十七页，共九十页。