高级人工智能3.pptVIP

2.3 Bayes 决策规则 2.3.1 最小错误率的Bayes决策 利用Bayes公式，可以在模式分类中尽量减少分类的错误；称之为最小错误率的Bayes决策 考虑对正常人和病人的识别问题。 假设每个要识别的人有d个基本特性的特征，如身高、体重、温度、脉搏……等，从而组成一个d维空间的向量，识别的目的就是要将分类成正常人或病人。 如果用 表示人的健康状态，则 表示健康状态 表示患病状态 对人个体的识别就是 把归类于 、 这两种可能状态。 类别状态是一个随机变量，但其概率分布是已知的，则有健康状态概率 和患病状态概率 是已知的。即 、 是先验概率。 在两类问题中，显然存在： + =1 (2.3-1) 为简单起见，只用一个特征即温度进行分类，有d=1。 在自然条件下，观察到的类别条件概率分布为已知，并且有:(分布如图2,1所示) 是健康状态下观察 的类条件概率密度 是患病状态下观察 的类条件概率密度 1.由于已知：状态先验概率 类条件概率密度 2.利用Bayes公式，则有状态的后验概率： (2.3-2) 4.最小错误率分析 （1）错误率 错误率是指平均错误率，以 表示,有定义： = (2.3-4) 其中， 表示在整个 d维空间上积分 （2）条件错误概率 在 条件下的错误概率为 。根据Bayes决策规则： 则决策结果； 则决策结果 显然，在作出决策 时， 的条件错误概率为； 在作出决策 时， 的条件错误概率为 从而有条件错误概率： ={ （3）Bayes决策的本质 实际上是对每个 都使取小者，从而积分： (2.3-6) 也必然达到最小。也即 达到最小 这说明最小错误率Bayes决策规则确实使错误率最小。 这种方法可以推广到多类的分类决策之中。 2.3.2 最小风险的Bayes决策 在决策中有时需要考虑一个比错误率更广泛的概念——风险。 对事物的分类，第一考虑的是尽可能正确的分类。第二要考虑错误判断分类带来的后果。例如，把健康人归类为病人，或把病人归类为健康人。这会带来精神压力或延误病情，即会引起损失。 最小风险的Bayes决策是考虑各种错误造成损失不同而提出的决策。 在最小风险决策中，需要考虑损失函数。 1.基本概念 （1）观察对象 是 维随机向量： (2.3-7) 其中： 为一维随机变量 （2）状态空间Ω 状态空间Ω由C个自然状态（C类）组成： Ω={ } (2.3-8) ( 3)决策空间A 决策空间A由 个决策