可分性判据pdf打印版.pdfVIP

学 海 无 涯 第七章 特征提取与选择_总结 直接选择法: 变换法提取: §7.2 类别可分性判据 准则—类别可分性判据，刻划特征对分类的贡献。 希望所构造的可分性判据满足下列要求： (1)与误分概率(或误分概率的上界、下界)有单调关系。 (2)当特征相互独立时，判据有可加性，即 (3)判据具有“距离”的某些特性，即 ，当 时； ，当 时； (4)对特征数目是单调不减，即加入新的特征后，判据值不减， 7.2.1 基于几何距离的可分性判据 (一)类内距离 类内均方欧氏距离 (二)类内离差 （散布）矩阵 (三)多类情况下总的类内、类间及总体离差（散布）矩阵 1 学 海 无 涯 总的类内离差矩阵 总的类间离差矩阵 总体离差矩阵为 易导出 其中， 为 类的先验概率， 为 类的均值矢量， 为总的均值矢量， 在有些关系的推导和实际应用中，它们可用如下的统计量代替 可以由 、 和 构造如下的可分性判据： 可以证明 、 与 在任何非奇异线性变换下是不变的， 与坐标系有关。 7.2.2 基于类的概率密度函数的可分性判据 基于类概密的可分性判据 应满足: (1) ； (2)当两类密度函数完全不重迭时， ； (3)当两类密度函数完全重合时， ； (4)相对两个概密具有“对称性”。 (一)Bhattacharyya 判据( ) 2 学 海 无 涯 式中 表示特征空间。在最小误分概率准则下，误分概率 (二)Chernoff 判据( ) 性质： (1)对一切 ， 。 (2)对一切 ， 。 (3)当 和 参数互调时，才有对称性，即 (4)当 的各分量 相互独立时， 。 (5)当 的各分量 相互独立时，有 (6)最小误分概率 (三)散度( ) 类的平均可分性信息为： 类的平均可分性信息为： 3 学 海 无 涯 对于 和 两类总的平均可分性信息称为散度： 如果 ，则 当 时， 散度具有如下性质： (1) 。 (2) 。 (3) 。 (4)当 的各分量 相互独立时，（具有可加性） (5)当 的各分量 相互独立时，（对特征数目单调不减） 又当