BP神经网络模型应用实例.docx

第 1 节 基本原理简介 近年来全球性的神经网络研究热潮的再度兴起，不 仅仅是因为神经科学本身取得了巨大的进展．更主要 的原因在于发展新型计算机和人工智能新途径的迫切 需要．迄今为止在需要人工智能解决的许多问题中， 人脑远比计算机聪明的多，要开创具有智能的新一代 计算机，就必须了解人脑，研究人脑神经网络系统信 息处理的机制．另一方面，基于神经科学研究成果基 础上发展出来的人工神经网络模型，反映了人脑功能 的若干基本特性，开拓了神经网络用于计算机的新途 径．它对传统的计算机结构和人工智能是一个有力的 挑战，引起了各方面专家的极大关注． 目前，已发展了几十种神经网络，例如 Hopficld 模型，Feldmann等的连接型网络模型，Hinton等的玻 尔茨曼机模型，以及 Rumelhart 等的多层感知机模型 和Kohonen的自组织网络模型等等。在这众多神经网 络模型中，应用最广泛的是多层感知机神经网络。多 层感知机神经网络的研究始于 50 年代，但一直进展不 大。直到 1985 年， Rumelhart 等人提出了误差反向传 递学习算法（即BP算）,实现了 Minsky的多层网络设 想，如图 34-1 所示 输入层 中间层 输出层 输入层 中间层 输出层 图34-1 BP神经网络模型 BP算法不仅有输入层节点、输出层节点，还可有 1 个或多个隐含层节点。对于输入信号，要先向前传播 到隐含层节点，经作用函数后，再把隐节点的输出信 号传播到输出节点，最后给出输出结果。节点的作用 的激励函数通常选取S型函数，如 式中Q为调整激励函数形式的Sigmoid参数。该算 法的学习过程由正向传播和反向传播组成。在正向传 播过程中，输入信息从输入层经隐含层逐层处理，并 传向输出层。每一层神经元的状态只影响下一层神经 元的状态。如果输出层得不到期望的输出，则转入反 向传播，将误差信号沿原来的连接通道返回，通过修 改各层神经元的权值，使得误差信号最小。 社含有 n 个节点的任意网络，各节点之特性为 Sigmoid 型。为简便起见，指定网络只有一个输出 y, 任 一 节 点 i 的 输 出 为 Oi , 并 设 有 N 个 样 本 (Xk,yQ( k=1,2,3，…,N),对某一输入 Xk，网络输出为 yk节点i的输出为Q,节点j的输入为netjk = 并将误差函数定义为 其 中 为 网 络 实 际 输 出 ， 定 义 Ek=(yk-?k) 2, , 且 Ojk=f(net jk), 于是 =8 jkQ 当 j 为输出节点时， Ojk=?k 若 j 不是输出节点，则有 因此 如果有M层，而第M层仅含输出节点，第一层为输入 节点，则BP算法为： 第一步，选取初始权值 W。 第二步，重复下述过程直至收敛： a.a. 对于 k=1 到 N a).计算Ok, net jk和?k的值(正向过程)； b）.对各层从M到2反向计算（反向过程）; b.b. 对同一节点j € M由式和计 算 8ik； 第三步，修正权值，W=W-卩,卩＞0,其中。 从上述BP算法可以看出，BP模型把一组样本的I/O 问题变为一个非线性优化问题，它使用的是优化中最 普通的梯度下降法。如果把神经网络的看成输入到输 出的映射，则这个映射是一个高度非线性映射。 设计一个神经网络专家系统重点在于模型的构成 和学习算法的选择。一般来说，结构是根据所研究领 域及要解决的问题确定的。通过对所研究问题的大量 历史资料数据的分析及目前的神经网络理论发展水 平，建立合适的模型，并针对所选的模型采用相应的 学习算法， 在网络学习过程中， 不断地调整网络参数， 直到输出结果满足要求。 第2节DPS数据处理系统操作步骤 在DPS数据处理系统中，数据的输入格式是一行 为一个样本，一列为一个变量，输入节点 （ 变量 ） 放在 数据块左边，输出节点 （因变量）放在数据块右边，输 完一个样本后再输下一个样本。对于待识别 （预测）的 样本，不需要输入输出变量 （因变量）。 数据输入完毕后，定义数据块。如有待识别 （预测） 的样本，可在按下 Ctrl 键时再按下并拖动鼠标， 将待 预测的样本定义成第二个数据块。 在进行神经网络学习之前，系统出现如图 34-2 所 示界面，这时需要你提供若干参数，各个参数取值的 基本原则是： 图 34-2 神经网络参数设置对话框 网络参数确定原则： 、网络节点网络输入层神经元节点数就是系统 的特征因子 （自变量 ）个数，输出层神经元节点数就是 系统目标个数。隐层节点选按经验选取，一般设为输 入层节点数的 75%。如果输入层有 7 个节点，输出层 1 个节点，那么隐含层可暂设为 5 个节点，即构成一个 7-5-1 BP神经网络模型。在系统训练时，实际还要对 不同的隐层节点数 4、 5、 6 个分