概率神经计算机网络(修改).doc

概率神经网络 摘 要：本文介绍了概率神经网络（PNN）的结构模型、功能、基本学习算法。基于PNN的模式分类功能，介绍了它在车牌识别方面的具体应用。论文的最后介绍了遗传算法以及用遗传算法对PNN的优化。 关键词：概率神经网络；Parzen 窗估计法；遗传算法 Probabilistic Neural Networks Gao Fei, Zhao Zhenzhen, Song Yan Abstract: The basic structure model of probabilistic neural network (PNN) is introduced in this paper, as well as the function of the model, the basic learning algorithm. The application of PNN in the field of Vehicle License Plate Recognition is interpreted in details. At the end of the paper,genetic algorithm( GA ) and its application in optimizing the PNN model are mainly focused on. Keywords: PNN; Parzen window estimate method; Genetic Algorithm 1. 概率神经网络模型 概率神经网络(Probabilistic Neural Networks，PNN)是由D. F. Specht[1]在1990年提出的。主要思想是用贝叶斯决策规则，即错误分类的期望风险最小，在多维输入空间内分离决策空间。它是一种基于统计原理的人工神经网络，它是以Parzen窗口函数为激活函数的一种前馈网络模型。PNN吸收了径向基神经网络与经典的概率密度估计原理的优点，与传统的前馈神经网络相比，在模式分类方面尤其具有较为显著的优势[2]。 1.1概率神经网络分类器的理论推导[3] 由贝叶斯决策理论： (1-1) 其中 。 一般情况下，类的概率密度函数是未知的，用高斯核的Parzen估计如下[10]： (1-2) 其中，是属于第类的第k个训练样本，是样本向量的维数，是平滑参数，是第类的训练样本总数。 去掉共有元素，判别函数可简化为： (1-3) 1.2 概率神经元网络的结构模型 PNN的结构以及各层的输入输出关系量如图1所示，共由四层组成，当进行并行处理时，能有效地进行上式的计算。 图 1 概率神经网络结构（以3个类别为例） 如图1-1所示，PNN网络由四部分组成：输入层、样本层、求和层和竞争层。PNN的工作过程：首先将输入向量输入到输入层，在输入层中，网络计算输入向量与训练样本向量之间的差值，差值绝对值的大小代表这两个向量之间的距离，所得的向量由输入层输出，该向量反映了向量间的接近程度；接着，输入层的输出向量送入到样本层中，样本层结点的数目等于训练样本数目的总和，，其中M是类的总数。样本层的主要工作是：先判断哪些类别与输入向量有关，再将相关度高的类别集中起来，样本层的输出值就代表相识度；然后，将样本层的输出值送入到求和层，求和层的结点个数是M，每个结点对应一个类，通过求和层的竞争传递函数进行判决；最后，判决的结果由竞争层输出，输出结果中只有一个1，其余结果都是0，概率值最大的那一类输出结果为1。 2．基本学习算法 以下几步构成了PNN神经网络的算法： 第一步：首先必须对输入矩阵进行归一化处理，这样可以减小误差，避免较小的值被较大的值“吃掉”。设原始输入矩阵为： (2-1) 从样本的矩阵如式（2-1）中可以看出，该矩阵的学习样本有m个，每一个样本的特征属性有n个。在求归一化因子之前，必须先计算矩阵： 然后计算： = (2-2) 式中， 则归一化后的学习矩阵为C。在式（2-2）中，符号“”表示矩阵在做乘法运算时，相应元素之间的乘积。 第二步：将归一化好的m个样本送入到网络样本层中。因为是有监督的学习算法，所以很容易就知道每个样本属于那种类型。