基于Hopfield神经网的络的噪声字母识别.docVIP

基于Hopfield神经网络的噪声字母识别 摘要 人工神经网络是对人脑功能的某些程度的反映，具有自适应和自学习的能力，可通过对模式样本的自学习，从中获取特征，并能将学习获得的知识应用到图像、文字等识别中。本文采用Hopfield神经网络进行英文字母识别，仿真结果表明，该方法能有效地对含噪声的英文字母进行识别。在相同的白噪声模型下，该方法在噪声均方差稍小时, 其容错能力比起Back Propagation网络方法有一定的增强。关键词 Hopfield神经网络，模式识别，目标向量。1 引言 近年来，神经网络的应用取得了令人瞩目的进展，其中模式识别(Pattern recognition)是神经网络应用最早也最广泛的领域之一，从最早的感知器到文字识别等，都是神经网络应用于模式识别的例子[1]。在传统的统计方法中，模式识别是将样本的特征向量和每个模式类别的特征向量进行比较，然后将样本归到离其最近的模式类别中。而神经网络是模仿人脑的工作机制，用大量简单的计算单元（神经元）连成网络，进行并行计算，并能存储大量的经验知识的计算模型。利用神经网络来进行模绞侗穑唤隹筛菅窘醒埃善识别能力，而且不需要对模式分布进行一些统计上南妊榧偕瑁商岣咦允视π浴Ｗ址侗鹗悄Ｊ绞侗鸬囊桓龇种В淙挝袷茄芯咳绾问辜扑慊芄皇侗鹱址Ｄ壳捌毡椴捎肂ack Propagation（BP）神经网络进行字符识别[2]，但由于BP网络存在训练时间较长、很容易陷入局部最小值等不足，尽管采用一些改进的算法可以较好的解决某些实际问题，可在设计过程中往往都要经过反复的试凑和训练过程，无法严格保证每次训练时BP算法的收敛性和全局最优性。与此相比，Hopfield神经网络不需要反复的试凑，因为此网络已被证明是收敛的，而且是能量函数E-收敛的[3]。它是一种具有记忆功能的反馈型神经网络，其中学习和识别过程可以分别地独立进行。本文利用Hopfield神经网络进行字符识别，并与BP网络方法的实验结果进行比较。2 Hopfield神经网络 Hopfield神经网络的结构如图1所示[4]，其中R1是输入矢量的维数，S1是神经元的个数，输入P作为网络的初始状态，当网络根据输入得到输出后，该输出将被反馈到输入端，成为新的输入，如此反复，通过对网络权值和阈值的调整，直到网络的输出稳定为止。该网络的所有神经元都是一样的，它们之间相互连接。从系统观点看，该网络的演变过程是一个非线性动力学系统，可以用一组非线性差分方程或微分方程来描述。系统的稳定性可用“能量函数”进行分析。在满足一定条件的情况下，“能量函数”的能量在网络运行过程中不断地减少，最后趋于稳定平衡状态。一个非线性动力学系统具有许多性质，例如稳定问题，各种类型的吸引子以至混沌现象等，利用这些特性可以完成各种复杂的计算。图1 Hopfield神经网络结构 Hopfield神经网络的应用形式有联想记忆和优化计算两种。其中联想记忆是指当网络输入某个矢量后，网络经过反馈演化，从网络输出端得到另一个矢量，这样输出矢量称作网络从初始输入矢量联想得到一个稳定记忆，即网络地一个平衡点。优化计算是指当某一问题存在多种解法时，可以设计一个目标函数，得到寻求满足这一目标函数的最优解法。本文将采用联想记忆的形式进行英文字母识别。3 基于Hopfield神经网络的字母识别 在Hopfield网络中，有离散和连续两种系统。其中离散Hopfield网络的神经元变化函数为符号函数，网络节点状态只取两个值+1、-1，它在模式识别中常用作联想记忆。从动力学的观点，如果网络节点的初始状态为X(0)，连接权值为Wij，当其运行t步后处于状态X(t+1) 即 （1） 由于能量函数E是有界的，系统最终必定是要达到某个稳定的状态，或者是在某几个状态绕行，这些状态就是非线性动力学系统的吸引子，即能量函数的局部最小点。Hopfield网络用于联想记忆时分为两个阶段：学习阶段和联想阶段。学习阶段的任务是：给定，按照Hebb学习规则 （2） 调整权Wij，使得存储样本成为系统的吸引子。联想阶段的任务是：在上述Wij已调整好的情况下，对于给定残缺不全或者受到干扰的信息，令其作为联想关键字，按照动力学规则变化神经元的状态，使得最终的稳态成为动力学的吸引子。利用神经网络进行字符识别，实际上是通过训练神经网络，使其能够根据字符的特征输入得到期望目标矢量的过程。然而，在实际识别过程中，字符的特征输入矢量中可能会混入噪声，应使网络具备一定的抑制噪声的能力。本文采用MATLAB编程语言，使用其神经网络工具箱提供的网络创建函数建立一个Hopfield神经网络，其中目标矢量T的元素必须是+1或-1。因此，在英文字母的识别过程中，每个目标向量代表一个字母，可以通过以下的准则进行目标向量的设置：字母从A到Z依次