几种统计模式识别方案的比较.docVIP

摘 要：模式识别是对表征事物或现象的各种形式的（数值的，文字的和逻辑关系的）信息进行处理和分析，以达到对事物或现象进行描述、辨认、分类和解释的目的，是信息科学和人工智能的重要组成部分。而统计决策理论是处理模式分类问题的基本理论之一，它对模式分析和分类器的设计有着实际的指导意义。本文归纳总结了统计模式识别的不同方案的详细性能，比较了它们的原理、算法、属性、应用场合、错误率等。 关键词：统计模式识别 贝叶斯决策方法 几何分类法 监督参数统计法 非监督参数统计法 聚类分析法  Comparison of Several Kinds of Statistical Pattern Recognition Schemes Abstract: Pattern recognition deals with and analyses the information which signify all kinds of things and phenomena (number values, Characters and logic relation), in order to describe, recognize, classify and interpret them. It is one of the important parts of information science and artificial intelligence. While statistical pattern recognition is one of the basics theory of classifying and is real directive significance in analyzing and classifying of pattern. We sum up the detailed performance of summarizing different schemes which counts the pattern recognition in this text, Compare their principle, algorithm, attribute, using occasion, etc. 1引 言 模式识别诞生于20世纪20年代，随着40年代计算机的出现，50年代人工智能的兴起，模式识别在60年代初迅速发展成为一门学科。它所研究的理论和方法在很多科学和技术领域中得到了广泛的重视，推动了人工智能系统的发展，扩大了计算机应用的可能性。 模式识别方法大致可以分为四类，即统计决策法、句法结构法、模糊判决法和人工智能法。 其中，统计决策论发展较早，理论也较成熟。其要点是提取待识别模式的一组统计特征，然后按照一定准则所确定的决策函数进行分类判决。统计模式识别方法是建立在概率论与数理统计的基础上，它用特征向量来描述模式。不同的模式用不同条件概率分布表示，然后判别未知模式属于哪一种分布。分类方法主要有贝叶斯决策方法、线性可分的几何分类法、非线性可分的几何分类法、监督参数统计法、非监督参数统计法及聚类分析法。下文将对它们的性能进行详细地介绍。 2 几点统计识别方法介绍及比较 2.1 贝叶斯决策方法 运用统计决策理论设计的分类系统又称为分类器。贝叶斯决策是一种统计模式识别决策法，它有如下基本假定： 1.各类别总体的概率分布是已知的 2.被决策的分类数是一定的 3.被识别的事物或对象有多个特征观测值 当被识对象用n随机向量X表示，二我们已知分类的先验概率的条件概率密度函数，便可根据贝叶斯公式，求解后验概率，并按后验概率的大小来判别分类，这就是贝叶斯决策方法。下面介绍三种判别准则。 （1）最小错误概率贝叶斯判别准则 设有R类样本，分别为w1,w2,…wR, 已知每类的先验概率为P(wi), 其中i=1,2, …,R。对于待识别的随机向量X,已知每类的条件概率密度为P(X|wi),则根据贝叶斯公式有后验概率： P(wi|X)=(P(X| wi)*P(wi))/(∑P(X∣wi)*P(wi)) （1） 根据计算得出得后验概率，取最大得后验概率P(wi|X)所属的wi类，判决X属于wi类。表示为： P(wi|X)P(wj|X)则X属于wi 其中i,j=1,2, …,R,且存在j≠i，这就是贝叶斯判别准则。 若按统计理论定义“似然比”为： l(X) = P(X| wi)/ P(x| wi) 取判别阀值： θji= P(wj)/ P(wi) 则有贝叶斯判别准则的似然比表示形式： l(X) P(wj)/ P(wi) 则X属于wi 对于两类模式集（w1,w2）的分类，贝叶斯判别准则简单表示为：