浅析BP神经网络设计中的关键问题.pdfVIP

科技信息 计算机与网络 浅析 BP袖经网络设计巾昀关键问题 聊城大学物理科学与信息工程学院 申 哲 葛广英 田存伟 [摘 要]近年来人工神经网络受到世界各国学者越来越广泛的关注，介绍了以BP神经网络为人工神经网络的典型代表，简述了 BP神经网络的原理和特点，重点分析了BP神经网络设计中的关键问题。 [关键词]人工神经网络 BP神经网络 神经元 反向传播 0．引言 人脑无论多么复杂，都可以看作是由大量神经元组成的巨大的神 n = ∑w0， 经网络，从神经元的基本功能出发，逐步从简单到复杂组成各种神经网 Oj= 络，从而实现不同功能。人工神经网络的研究正是在基于人脑的生理结 l—e 构来研究人的智能行为，模拟人脑处理信息的功能，是近年来的研究热 (3)对输出层计算局部梯度 点，被广泛应用到电子科学与技术、自动控制 、计算机科学与技术、模式 8j=(y一 oj(1一Oj) 识别等领域。 (4)从后向前计算各隐层 8 1．人工神经网络 人工神经网络 (ArtifieialNeuralNetwork，ANN)，也称为神经网络，是 = oj(1—0j)∑wj8 由大量的神经元 (Neurons)广泛连接组成的网络 ，是对人脑的抽象和模 k 拟，实现人脑的基本功能。人工神经网络通过输入输出数据调节参数 、 (5)计算并保存各权值修正量 算法和结构模型，自诞生至今，由于人工神经网络具有 自学习能力和并 Awu(f)= △w 卜1)+qSiOi 行处理大量数据等特点，已经在智能控制和模式识别等领域得到越来 (6)修正权值 越广泛的应用。尤其是基于误差信号反向传播(ErrorBackPropagation) w~j(t+1)=wii(t)+Awji(t) 的多层前馈网络 (Multiple_LayerFeedforwardNetwork)，简称 BP神经网 反向传播算法对各个单元做权值修正直至收敛，如果不收敛就重 络，因其可以以任意精度逼近任意连续函数而广泛应用于函数逼近 、模 复 (2)至(6)的步骤。由于隐含层可以是两层或多层 ，二层前馈网络的收 式识别等领域 I。 敛性是不受初始值的影响的，可以把初始值全部设置为零 ，对于隐含层 2．BP神经网络 是两层以上的前馈网络使用 BP学习算法时，如果把初始值都设置为零 2．1BP神经网络模型 或者设置相同，则不会出现隐层差异，学习不能正常进行。因此要用较 BP神经网络一般有一个输入层，一个隐含层 (有时有两个或者更 小的随机数作为初始值，通常选-+0．3区间。 以上算法中有两个参数 和 。其中 是惯性项系数，它影响收敛 多)，一个输出层。输入层或输出层的神经元个数既是输入层或输出层 的维数，隐含层的层数和隐含节点的个数要根据具体情况而定。BP神 速度，可以在 0．9一l之问选取 ，a≥i代表不收敛 ；步长 ,rI通常可以在 经网络模型如图 l所示 。 0．1-3之间选取，对于不同的问题的选取值的差异可以很大，直接影 响收敛速度。