第十章模式识别技术总结.ppt

第十章 模板匹配与模式识别 §10.5 人工神经网络识别法 BP神经网络设计应注意的问题 1）输入层神经元的数量通常由应用来决定。在反向传播中，它等于 特征向量的维数 2）中间的隐含层数和每一隐含层的神经元数目则是设计时需要选择的。在大多数情况下，每一隐含层的神经元的数量比输入层的少得多。 3）输出层神经元数量则通常与类别的数量相同 4）训练样本必须对整个特征空间总体分布具有代表性，使得网络能对 每一类建立恰当的概率分布模型。 已有结果表明含有一隐含层网络已经足够近似任何连续函数，含二隐含层则可以近似任意函数 5）训练样本次序的随机性也很重要，对随机的样本进行训练可以产生一种噪声干扰，它可以帮助网络跳出局部极值的陷阱 。 　　　因为处理的是分类问题，因此最佳的意义是分类误差最小。 由于求解最佳判决函数的出发点和途径不同，因此产生了各种不同的分类方法： 　?判别函数方法 　贝叶斯分类器：判别函数表示为似然比，也称为　 　最大似然率分类器或最小损失分类器 　集群分类方法：它几乎不需要有关待分样本的先验知识。 第十章 模板匹配与模式识别 §10.3 统计模式识别 分类器是某种由硬件或软件组成的“机器”： 计算c个判别函数gi(x) 最大值选择 ARGMAX g1 . . . g2 gc . . . x1 x2 xn a(x) 第十章 模板匹配与模式识别 §10.3 统计模式识别 第十章 模板匹配与模式识别 §10.3 统计模式识别 基本过程 统计模式识别是研究每—个模式的各种测量数据的统计特性，按照统计决策理论来进行分类 统计模式识别过程分为识别和分类两部分，核心内容为特征处理与分类 第十章 模板匹配与模式识别 §10.3 统计模式识别 特征处理 包括特征选择和特征变换： 特征选择方法 特征选择指的是从原有的m个测量值集合中，按某一准则选择出一个n维(n＜m)的子集作为分类特征 穷举法 从m个原始的测量值中选出n个特征，—共有Cmn种可能的选择。对每一种选法用己知类别属性的样本进行试分类，测出其正确分类率，分类误差最小的一组特征便是最好的选择 优点是不仅能提供最优的特征子集，而且可以全面了解所有特征对各类别之间的可分性信息。但是，计算量太大，特别在特征维数高时，计算更繁 第十章 模板匹配与模式识别 §10.3 统计模式识别 最大最小类对距离法 首先在K个类别中选出最难分离的一对类别， 然后选择不同的特征子集，计算这一对类别的可分性，具有最大可分性的特征子集就是该方法所选择的最佳特征子集 特征选择方法不改变原始测量值的物理意义，因此它不会影响分类器设计者对所用待征的认识，有利于分类器的设计，便于分类结果的进一步分析 第十章 模板匹配与模式识别 §10.3 统计模式识别 特征变换 特征变换是将原有的m个测量值集合通过某种变换，然后产生n个(n＜m)特征用于分类。特征变换又分为两种情况： 一种，从减少特征之间相关性和浓缩信息量的角度出发，根据原始数据的统计特性，用数学的处理方法使得用尽量少的特征来最大限度地包含所有原始数据的信息。这种方法不涉及具体模式类别的分布情况，因此，对于没有类别先验知识的情况，这是—种有效的特征变换方式。主分量变换就属于这一类型 另一类，根据对测量值所反映的物理现象与待分类别之间关系的认识，通过数学运算来产生—组新的特征，使得待分类别之间的差异在这组特征中更明显，从而有利于改善分类效果 第十章 模板匹配与模式识别 §10.3 统计模式识别 . 统计分类方法 监督分类 监督分类方法就是根据预先已知类别名的训练样本，求出各类在特征空间的分布，然后利用它对未知数据进行分类的方法 换句话说，监督分类法就是根据训练样本把特征空间分割成对应于各类的区域 第十章 模板匹配与模式识别 §10.3 统计模式识别 监督分类过程 1)根据类别名预先给定的训练样本，根据各类特征矢量分布确定判别函数g1~gc(c为类别数)。这一过程称为学习 2)对于待分类的特征矢量（或称模式）X=(x1,x2,…,xn)，计算各判别函数的值g1（X）~gc(X) 3)在g1(X)~gc(X)中选择最大者，把模式X分类到这一类中 第十章 模板匹配与模式识别 §10.3 统计模式识别 常用判别函数 1)距离判别函数 欧几里德距离 L距离 相似度 第十章 模板匹配与模式识别 §10.3 统计模式识别 常用判别函数 1)距离判别函数 利用距离判别函数的最近邻域分类 分别使用与类别的平均值和与逐个训练样本的距离分类的结果，前者边界为直线后者为曲线 第十章 模板匹配与模式识别 §10.3 统计模式识别 常用判别函数 2)线性函数 g(X)=