第2章 随机模式及分类方法1.ppt

随机模式的分类方法 目 录 2.1 引言 2.3 最小风险判决规则 2.3 最小风险判决规则 2.3 最小风险判决规则 2.3 最小风险判决规则 2.3 最小风险判决规则 2.3 最小风险判决规则 2.3 最小风险判决规则 2.4 最大似然比判决规则 2.4 最大似然比判决规则 2.4 最大似然比判决规则 2.4 最大似然比判决规则 2.4 最大似然比判决规则 2.4 最大似然比判决规则 2.5 Neyman-Pearsen判决规则 2.5 Neyman-Pearsen判决规则 2.5 Neyman-Pearsen判决规则 2.5 Neyman-Pearsen判决规则 2.5 Neyman-Pearsen判决规则 2.5 Neyman-Pearsen判决规则 2.5 Neyman-Pearsen判决规则 2.5 Neyman-Pearsen判决规则 0  在两类别决策问题中，有犯两种错误分类的可能性， 一种是在采取决策时 ，其实际自然状态为 ； 另一种是在采取决策时 ，其实际自然状态为 。 ＝ ＋ ， 在实际应用中，有时不知道先验概率，仅知道类概率密度，应如何确定判决 门限呢?假定在处理过程中，先验概率保证不变，这时可以使用聂曼—皮尔逊 (Neyman—Pearson)判决规则。 两种错误的概率分别为： 和 ， 最小错误率Bayes决策是使这两种错误之和 最小。 0  在两类问题中，两类的类概率密度曲线如下图所示，假定判决门限选为t， 可能发生的两类分类错误与阴影区面积 和 成正比。 聂曼—皮尔逊判决规则的基本思想是：在一种错误率不变的条件下， 使另一种错误率最小。 0  这是具有实际意义的，例如，在细胞的化验中，由于把异常细胞错判为正 常细胞的风险较大，可以要求这种错判的错误率不大于某个指定的常数作为前 提条件，使正常细胞错判为异常细胞的错误率尽可能小，以此为原则来选择判 决门限t，这就是聂曼—皮尔逊判决规则的基本思想。 从上图可以看出： （2.5-1） （2.5-2） 假定 不变，为某个给定的正数，令： （2.5-3） 0  为了使 最小化，就要通过适当地选择某个正数 使 最小。 把（2.5-4）式和（2.5-2）式代入（2.5-3）式，得到： （2.5-4） （2.5-5） （2.5-6） 把（2.5-5）式和（2.5-1）式代入（2.5-3）式，得到： （2.5-7） 0 若 ＞ ，则 （2.5-8） ＜ ，则 若 为了使 最小化，上两式中的被积函数最好为负数， 从而得到聂曼—皮尔逊判决规则为： 显然正数 是x的函数，根据上式，要求 为： ＝ （2.5-9） 为了最后确定各特征坐标上的门限值，还需要利用给定的正数 由(2.5-2)式，并参考上图，得到： 式中， 表示函数 的逆函数。 ， （2.5-10） 例：两类的概率密度函数是正态的，两类的均值向量分别为 和 ，协方差矩阵相等且为单位矩阵。给定 ，试确定N-P判决门限t。 0  解：根据给定的条件，很容易写出两类的类概率密度函数，即： 和 。 。 而 ， ， ，得到： 故： ， 只是x1的函数，与x2无关。有 又 的边缘密度为 ： 对于给定的正数 ，可由下式计算： Made in CVPRLab of Shandong University * Made in CVPRLab of Shandong University 第2章 该方法基于贝叶斯决策理论，往往以某种概率的形式给出。本章首先介绍贝叶斯分类方法中的一般性的判决规则，并且抽象出随机模式的判决函数和决策面方程，给出2种分类器结构。 2.1 引言 1 2.2 最小错误率判决规则（最简单的Bayes分类方法） 2 2.3 最小风险判决规则 3 2.4 最大似然比判决规则 4 2.5 Neyman-Pearsen判决规则--- 有时不知道先验概率，仅知道类概率密度 5 2.6 最小最大判决规则---先验概率是变化的 6 2.7 分类器设计 6 随机模式 在可以觉察到的客观世界中，存在着大量的物体和事件，他们在基本条件不变时