基于氐距离的一类次最佳特择选择与集团分类法.pdfVIP

维普资讯 第 2卷 第 4期 模式识别与人工智能 1989年l2月 基于 氐距离的一类次最 佳特择选择与集团分类法 ／5 陈武凡 郭德纨 (广州第一军医大学 ) 摘 要 丰文针对多夹统计 别问题，在欧 氏距离的基础上提出一种新 的次最佳特征选择与 “集团 分 类 方 案。这个被设计为乡级 “准两类 识别方案比之一般的分娄方法，兵有分类精度高和速度较快的优点。文 中还提供一实俩 ．它的成功支持和验证了本方案的优越性。 一 、 引 言 在统计模式识别中，刺用Karhunen-Loeve(K—L)正交变换作样本的特征选择较之其他 方法 效果最佳” “ 。因为K—L变换具有最大的信息压缩，最小的熵 与均方误差， 旦 在消 除模式之间的相互关系，突出其差异性方面明显地优越于其他方法，故长期 以来能得到广泛 应用 。 一 般从理论上说来，特征选择合理性的最佳测度应是最小的概率误差准则，但 目前大多 采用 的却是距离测度准则，因为前者难于实现。特别是对于多类识别的精形。用 以选择特征 的各类正交变换就是以诸如马氏距离、欧氏距离等等为澳f度准则的}而定义不同的距离测度 准则 目的在于更有效地反映模式分布 的统计特性，这也体现了各种正交变换的灵活性 与合理 性。K-L正交变换就是以欧氏距离 m D．= ∑ P 汀 (∑ ) (1) = l 其中 m=总的类别数 。 P，=第 类先验概率。 ∑；=第璞 协方差矩阵，N×N阶。 作为特征选择的距离测度准则 1，即让 K-L正交变换矩阵Q由下面的准则矩阵 优 ∑ ： ∑ P；∑I (2) = l 的前n个 (nN)特征值 ^I≥ ：≥ … ≥ ^．≥ ^。+l≥ … ≥ h ≥ 0 所对应 的n个N维的特征向量at(1=1，2，…，n)的转置构成 本文于1989年4月29日收到 维普资讯 4期 武凡、郭德纨：基于欧氏距离的一类疆最佳特征选择与集团分类法 B9 0 ： (口 口 ；… 口 )T (3 ) Q为n×N阶正交矩 阵，其行向量内积满足 1 = ， ( ．， )= { 0 i4= 对任意一个待识别向量 w -可作特征压缩 Ox= (4 ) 所得 向量 是11维的，也就是说 由Q完成了对 的选择。 众所周知，Bayes分类器在模式识别中有最令人满意之效果，所谓最佳特征选择 就是 建 立在Bayes分类的基础之上的。就特征选择的方案而言，唯马氏距离测度准则基础上的 特 征 选择最接近Baycs决策理论。但在马氏距离准则下，计算工作量过大}而欧氏距离准则 下 ， 计算工作量较少，且有明显的物理意义。然而就模式识别问题而言，提高识别的准确度，即 减少误判的概率才是至关重要的。尽管基于欧氏距离测度准则上的K-L正交变换具有如前 述 的诸多优点、但应用它