Bayes决策方法.ppt

模式识别，第三章 * 正态分布条件下的Bayes决策 情况一 由于： 与类别无关，可不考虑 模式识别，第三章 * 正态分布条件下的Bayes决策 情况一 故： 　　 　　称gi(x)为线性判别函数，相应的分类器为线性分类器。 模式识别，第三章 * 正态分布条件下的Bayes决策 情况一 模式识别，第三章 * 情况一 模式识别，第三章 * 正态分布条件下的Bayes决策 情况二 各类方差相同，即 则 其中 称为样本X与正态分布模式类的马氏距离（Mahalanobis距离）。 当待识别的样本X到来时，分别计算样本X与各个模式类的马氏距离，并将X分类到马氏距离最近的模式类中。 模式识别，第三章 * 正态分布条件下的Bayes决策 情况二 可以证明，此时判别函数仍满足线性关系，即： 分类器仍为线性分类器 模式识别，第三章 * 正态分布条件下的Bayes决策 情况三 各类协方差矩阵各不相同，即： 分类器为非线性分类器（二次型分类器） 模式识别，第三章 * 影响模式识别的关键因素 模式的紧致性问题 若将模式类视为集合，则集合中的点可分为两类：内点和临界点 内点：与该点相邻的点（距离最近的点）仍然属于该点所在的集合 临界点：与该点相邻的点属于另外的集合（模式类）。 模式识别，第三章 * 影响模式识别的关键因素 模式的紧致性问题 若将模式类视为集合，则集合中的点可分为两类：内点和临界点 内点：与该点相邻的点（距离最近的点）仍然属于该点所在的集合 临界点：与该点相邻的点属于另外的集合（模式类）。 模式识别，第三章 * 影响模式识别的关键因素 模式的紧致性问题 无临界点 临界点较少 临界点多得无法 进行分类 模式识别，第三章 * 影响模式识别的关键因素 模式的紧致性问题 紧致集：指满足下列条件的模式类 临界点的数量与总的样本点数相比很少 每个内点对都有足够大的邻域，使得该邻域内的点都在同一集合 假若每一模式类都满足紧致集的假设，则模式识别并不存在多大困难，但对于许多识别问题，该假设并不成立。 模式识别，第三章 * 影响模式识别的关键因素 解决问题的途径 通过空间变换或映射来解决，不满足紧致性假设的模式类映射到另外的几何空间可能就满足紧致性。 如何进行特征空间变换或映射？ 模式识别，第三章 * 影响模式识别的关键因素 解决问题的途径 选择更为有效的特征。如何有效选择有效特征？ 尽量选择反映共性，突出异性的特征，即类间距离越大越好，类内距离越小越好。 尽量选择统计无关的特征，减少信息冗余。 在相同错误概率条件下，选择维数较小的特征。 根据识别对象的特点，选择反映事物本质特性的参数作为特征（例，语音的音调周期，声道参数等） 模式识别，第三章 * 最小风险（损失）的Bayes决策 特殊情况：两类问题 　则基于最小风险（损失）的Bayes决策为： 　若R1(X) R2(X)，则 判 X ∈?1 类 模式识别，第三章 * 最小风险（损失）的Bayes决策 特殊情况：两类问题 上述决策等价于：对待识样本x 　若：　　　　　　　　　　　　　　　　，则判 x∈?1 类 似然比 模式识别，第三章 * 最小风险（损失）的Bayes决策 模式识别，第三章 * 最小风险（损失）的Bayes决策 特殊情况：两类问题 若： ?12 -?22 = ?21 -?11，即对称损失，则最小风险Bayes决策与最小错误概率Bayes决策是等价的。 模式识别，第三章 * 最小风险（损失）的Bayes决策 例： ?1(乙肝) ?2(健康) P(?1)=0.05 P(?2)=0.95 P(x/?1) =0.5 P(x/?2) =0.2 ?11 = ?22 =0， ?12 = 1，?21 =10 试分别用最小风险和最小错误概率Bayes决策对模式X分类 模式识别，第三章 * 最小风险（损失）的Bayes决策 解：最小错误概率Bayes决策 P(x/?1) P(?1)=0.05×0.5=0.025 P(x/?2) P(?2)=0.2×0.95=0.19 可见： P(x/?1) P(?1） P(x/?2) P(?2) 由Bayes决策准则得：x ∈?2 类，为健康 模式识别，第三章 * 最小风险（损