pr_lzh1_for ppt2003.pptVIP

山东大学 控制科学与工程学院 * 最小风险贝叶斯决策规则 如果 ，则判决 。 对于两类问题，条件风险为 按最小风险贝叶斯决策规则有 根据贝叶斯公式，上式有几种等价形式 山东大学 控制科学与工程学院 * 损失函数根据实际问题和经验确定。在最小风险贝叶斯决策中，若将损失函数取为 则这种损失函数称为0－1损失函数。此时，决策 的条件风险为： 由上式可以看出，取 最小实际就是取 最大，因此当取0－1损失函数时，最小风险贝叶斯决策规则等价于最小错误率贝叶斯决策规则。 这说明：最小错误率贝叶斯决策规则是最小风险贝叶斯决策规则的特例。 山东大学 控制科学与工程学院 * 例：假设在某个局部地区的细胞识别中，第一类表示正常，第二类表示异常，两类的先验概率分别为：正常 ，异常 。现有一待识别样本细胞，其观察值为 ，从类条件概率密度函数曲线 上查得： ， ，并已知损失矩阵为 。试判断该细胞是否正常。 同学们先自己做一下。 山东大学 控制科学与工程学院 * 解：根据最小风险贝叶斯决策规则进行判断，可以求出 所以，应将细胞样本判为第二类，即为异常。 山东大学 控制科学与工程学院 * §2.3 聂曼－皮尔逊（Neyman－Pearson）决策法 在两类别决策问题中，有犯两种错误的可能性： 一种是在采取决策 时其实际自然状态为 ； 一种是在采取决策 时其实际自然状态为 。 如前面所讲，这两种错误的概率分别为 和 ，最小错误率贝叶斯决策就是使这两种错误率之和 为最小。 边界面 山东大学 控制科学与工程学院 * 由于先验概率 ， 对具体问题来说往往是确定的，所以一般称 ， 为两类错误率。实际中，有时要求限制其中某一类错误率不得大于某个常数，而使另一类错误率尽可能地小。 例如，在癌细胞识别中，我们已经认识到把异常判断为正常地损失更为严重，所以希望这种误判的错误率 很小，即使 ， 是一个很小的常数。在这种条件小再要求 尽可能地小。 这样的决策可看成是在 的条件下，求 的条件极值问题。可用Lagrange乘子法来解决，建立数学模型为 其中 是Lagrange乘子，目的是求 的极小值。 山东大学 控制科学与工程学院 * 将 和 代入上式可得 将上式分别对 和 求导，令 及 ，有 山东大学 控制科学与工程学院 * 满足上面两式的最佳 值和边界面就能使 极小，此时的决策规则可以写为： 或写为 这种限定一类错误率为常数而使另一类错误率最小的决策规则就称为聂曼－皮尔逊决策规则。回顾以前学过的最小错误率贝叶斯决策规则 以及最小风险贝叶斯决策规则 可以看出它们都是以似然比为基础的，所不同的是所使用的阈值不同。 山东大学 控制科学与工程学院 * 聂曼－皮尔逊决策所使用的阈值是Lagrange乘子，它是下面两个方程的解 由于 的作用主要是影响积分域，因此，根据上式求 的解析式很难，下面介绍一种实用的计算求解方法。 根据上式， 越大， 越小，从而 也越小，即 是 的单调递减函数。给定一个 值，可求出一个 值，在计算的值足够多的情况下，可构成一个二维备查表。给定一个 后，可查表求得相应的 值，这种方法得到是计算解，其精度取决于二维表的制作精度。 下面举例说明。 山东大学 控制科学与工程学院 * 例：两类二维正态分布模式的均值向量为 ， ，其协方差矩阵均为单位阵 ，即