第2章节贝叶斯决策理论幻灯片.pptVIP

2.4.1 对分类错误率的直观认识 分类错误率 = 被错分的样本数 / 样本总数 分类方案一 分类方案二 在分类中，希望分类错误率尽可能地小。 以上是最简单的情形（全体样本已知），但在很多情形下（如只知部分样本，或只知样本的分布），分类错误率并不容易计算。 分类错误率是衡量分类性能好坏的标尺。 2.4.2 分类错误率的计算方式 在一些特殊情形下按理论公式计算 平均错误率： （是 的期望） 的概率密度 对 进行分类（决策）时的错误 决策规则（两类时）： 如果 如果 则 则 (2-6) 例：基于最小错误率的贝叶斯决策（前面讲过） * * Bian ZhaoQi * Bian ZhaoQi * Bian ZhaoQi 5、条件风险（条件期望损失）： 条件风险： 模式 属于 类，现却将之判决为 类而带来的损失； 模式 属于 类的概率（可能性）； 例：计算条件风险 状态 损 失 决 策 ω1 ω2 α1 α2 0 0 6 1 （正常类） （异常类） （正常） （异常） 已知 所以 这意味着： 把异常类血细胞判别为正常类细胞所冒风险太大，所以宁肯将之判别为异常类血细胞。 （2-15） “风险”的适用范围比错误率更广泛，它引入了“损失”的概念。即考虑了因误判而带来的损失。 注意： 期望风险反映对所有x的取值采取相应决策 所带来的平均风险。 6、期望风险R： 注意：条件风险反映对某一x的取值采取相应决策 所带来的平均风险。 5、条件风险：条件期望损失（续） 2.2.3 基于最小风险的贝叶斯决策规则与决策步骤 2、决策步骤： 1、决策规则： （根据贝叶斯公式计算） （计算条件风险） （决策） 在实践中如何给出决策表： 2.2.3 基于最小风险的贝叶斯决策规则与决策步骤（续） 状态 损 失 决 策 ω1 ω2 α1 α2 0 0 6 1 （正常类） （异常类） （正常） （异常） 状态 损 失 决 策 ω1 ω2 α1 α2 在实践中要列出合适的决策表很不容易，往往要根据所研究的具体问题，分析错误决策造成损失的严重程度，与有关专家共同商讨来确定。 （教材P15） （即需要具体问题具体分析） 2.2.4 基于最小风险的贝叶斯决策应用实例 例：细胞识别 假设在某个局部地区细胞识别中， 正常( )和异常( )两类的先验概率分别为 正常状态： P ( ) =0.9; 异常状态： P ( ) =0.1. 现有一待识别的细胞，其观察值为 ，从类条件概率密度分布曲线上查得 P(x | )=0.2, P(x | )=0.4. 且因误判而带来的风险如下页表所表示，试对该细胞x进行分类。 解： （1）利用贝叶斯公式，分别计算出 及 的后验概率。 P( | x)= P( |x)=1- P( |x)=0.182 类 类 若贝叶斯决策 2.2.4 基于最小风险的贝叶斯决策应用实例（续） 状态 损 失 决 策 ω1 ω2 α1 α2 0 0 6 1 （正常类） （异常类） （正常） （异常） （2）计算条件风险 （3）基于最小风险进行决策 （将 判决为第 类的风险） （将 判决为第 类的风险） 模式 属于 类的概率（可能性）； 所以 两类决策结果正好相反，这是因为影响决策结果的因素又多了一个“损失”。由于两类错误决策所造成的损失相差很悬殊，因此“损失”在这里起了主导作用。 2.2.5 最小错误率与最小风险贝叶斯决策的联系 状态 损 失 决 策 ω1 ω2 α1 α2 0 0 1 1 （正常类） （异常类） （正常） （异常） 若采用0-1损失函数： 例：两类样本的分类 根据条件风险公式： 则两类决策的风险为 因此两种决策规则等价 （理论推导见教材P16） （将 判决为第 类的风险） （将 判决为第 类的错误率）见下页复习 复习：2.1.5 决策规则使错误率最小的理论证明 1、平均错误