02 贝叶斯决策理论.ppt

模式识别 ——贝叶斯决策理论 马勤勇 mqy_mail@163.com 一 最简单的贝叶斯分类算法 还使用前面的例子：鲈鱼(sea bass)和鲑鱼(salmon)。 使用一个特征亮度对这两种鱼进行表示。 新来了一条鱼特征是x(亮度)，怎么根据特征x确定它到底是鲈鱼ω1还是鲑鱼ω2？ 已知数据：鲈鱼类标号ω1，鲑鱼类标号ω2。鲈鱼总数量占所有鱼总数量的比率为P(ω1)，鲑鱼总数量占所有鱼总数量的比率为P(ω2)。由鲈鱼的分布得知这条鱼的亮度x在分类为鲈鱼时出现的概率为p(x|ω1),由鲑鱼的分布得知这条鱼的亮度x在分类为鲑鱼时出现的概率为p(x|ω2)。 如何求解？可以求出x属于鲈鱼ω1的概率P(ω1|x)和x属于鲑鱼ω2的概率P(ω2|x)。如果P(ω1|x)P(ω2|x)，就认为x是鲈鱼。现在的问题是如何求P(ω1|x)和P(ω2|x)。 有一个概率公式： 如果p(ω1|x)p(ω2|x)，那么就认为x属于ω1，即这条鱼是鲈鱼。同理于： 二 贝叶斯决策算法 上面的分类有几个主要限制： 特征向量中只包含一个特征：亮度。 只有两个类别：鲈鱼和鲑鱼。 仅仅允许分类，而不是根据分类采取行动。同时，没有加入损失控制：例如鲈鱼比鲑鱼贵。如果鲈鱼的罐头里装入了鲑鱼，那么客户会很生气；如果鲑鱼的罐头里装入了鲈鱼，那么客户很难感到有损失。那么这个时候分类后采取的行动就要偏向于便宜的鲑鱼