模式识别第三讲-统计决策理论.pptVIP

第二章 统计决策理论 PR中的分类问题是根据识别对象特征的观测值，将其分到相应的类别中去。 统计决策理论是模式分类的主要理论和工具。 这一章要讨论： 最小错误率贝叶斯决策 最小风险贝叶斯决策 要考虑行动的后果、行动的风险。 采取的决定称为决策或行动。决策可以为分到某一个类别， 或“拒绝”等。假设一共有m个决策。 每个决策或行动都有一定的代价或损失。 最小风险的贝叶斯决策规则： 若 ，则采取 。 这时的条件风险为 即对x采取 决策时的条件错误率。所以使 的最小风险决策等价于使 最大。 离散特征时的贝叶斯公式 决策规则与连续特征情形相似 应用：文本分类 假设各个单词 出现的概率是独立的 某一类文本中出现某些单词的概率较大， 因此 较大 贝叶斯信念网 *?北京工业大学计算机学院? 2.1 引言 2.2 贝叶斯决策 问题：假定要识别的物理对象x有d个特征，x1，x2，…，xd，记作x=[ x1，x2，…，xd]T，所有的特征向量构成了d维特征空间。假定这些待识别的对象来自c个类别，ωi，i=1，2，…，c，并且每个类别出现的先验概率P[ωi]和类条件概率密度p(x|ωi) ，i