模式识别的基本理论辩析.ppt

决策面方程 根据gi(X)－gj(X)＝0有　　 决策面为二次超曲面 ： 随着Σi及P(ωi)的不同而呈现不同形式的超二次曲面。 如超球面、超椭球面、超抛物面、超双曲面，也可能是超平面。 * 2.1.5 分类器错误率计算 错误率：衡量分类器性能工具 1、按理论公式计算：困难 2、计算错误率上界：近似 3、实验估计：需要大量已知类别属性的样本 * 一、一些特殊情况下错误率计算 1、正态分布且协方差阵相等Σi=Σ,i=1,2,…,C） 错误率计算，在高维空间进行，难以计算： 负对数似然比，可化为一维处理： * 用似然比h(x)密度函数计算错误率 * 正态分布下： 若协方差阵相等（Σi=Σ,i=1,2） p(h|w1)、 p(h|w2)计算 h(x)是一维随机变量，是X的线性组合，故 h(x)服从正态分布，可用均值和方差描述 * 错误率 其中： 平均错误率： * 2、独立随机变量 根据中心极限定理，d足够大（10）时，h(x)服从正态分布，则可计算h(x)的均值和方差：(ηij, σij易统计得到） 负对数似然比： 类条件概率密度： 错误率的计算同1（正态分布且协方差阵相等） * 二、错误率上界 Chernoff界限 Bhattacharyya界限 * 当两类的分布 都是正态分布时： 问题 贝叶斯决策理论，需要已知： （1）先验概率；（2）类条件