神经网络模型应用实例.docxVIP

BP 神经网络模型 近年来全球性的神经网络研究热潮的再度兴起， 不仅仅是因为神经科学本身取得了巨大 的进展． 更主要的原因在于发展新型计算机和人工智能新途径的迫切需要． 迄今为止在需要 人工智能解决的许多问题中，人脑远比计算机聪明的多，要开创具有智能的新一代计算机， 就必须了解人脑， 研究人脑神经网络系统信息处理的机制． 另一方面， 基于神经科学研究成 果基础上发展出来的人工神经网络模型， 反映了人脑功能的若干基本特性， 开拓了神经网络 用于计算机的新途径． 它对传统的计算机结构和人工智能是一个有力的挑战， 引起了各方面 专家的极大关注． 目前，已发展了几十种神经网络，例如 Hopficld 模型， Feldmann 等的连接型网络模型， Hinton 等的玻尔茨曼机模型， 以及 Rumelhart 等的多层感知机模型和 Kohonen 的自组织网络 模型等等。 在这众多神经网络模型中， 应用最广泛的是多层感知机神经网络。 多层感知机神 经网络的研究始于 50 年代，但一直进展不大。直到 1985 年， Rumelhart 等人提出了误差反 向传递学习算法（即 BP 算），实现了 Minsky 的多层网络设想，如图 34-1 所示。 输入层 中间层 输出层 34-1 BP 神经网络模型 BP 算法不仅有输入层节点、输出层节点，还可有 1 个或多个隐含层节点。对于输入信 号，要先向前传播到隐含层节点，经作用函数后，再把隐节点的输出信号传播到输出节点， 最后给出输出结果。节点的作用的激励函数通常选取 S 型函数，如 f ( x) 1 e x / Q 1 式中 Q 为调整激励函数形式的 Sigmoid 参数。该算法的学习过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经隐含层逐层处理，并传向输出层。每一层 神经元的状态只影响下一层神经元的状态。 如果输出层得不到期望的输出， 则转入反向传播，将误差信号沿原来的连接通道返回，通过修改各层神经元的权值，使得误差信号最小。 社含有 n 个节点的任意网络， 各节点之特性为 Sigmoid 型。为简便起见， 指定网络只有一个输出 y,任一节点 i 的输出为 Oi,并设有 N 个样本 (xk,yk)( k=1,2,3, ?,N),对某一输入 xk，网络 Wij Oik 输出为 yk 节点 i 的输出为 Oik ,节点 j 的输入为 netjk = i E 1 N ( yk yk ) 2 并将误差函数定义为 2 k 1 jk Ek yk 2 net jk 其中 为网络实际输出，定义 ,且 Ojk =f(netjk),于是 Ek=(yk-?k) , Ek Ek net jk Ek Oik Wij net jk Wij net jk =δjk Oik 当 j 为输出节点时， Ojk =?k jk Ek yk ( yk yk ) f (net jk ) yk net jk (34.1) 若 j 不是输出节点，则有 Ek Ek O jk Ek f (net jk ) jk net jk net jk O jk O jk Ek Ek netmk O jk m net mk O jk Ek Wmi Oik net mk O jk m i Ek Wmj mkWmj net mk m i m 因此 jk f (net jk ) m mkWmj Ek mk Oik Wij (34.2) 如果有 M 层，而第 M 层仅含输出节点，第一层为输入节点，则 第一步，选取初始权值 W。 第二步，重复下述过程直至收敛： a. 对于 k=1 到 N . 计算 Oik , netjk 和 ?k 的值 ( 正向过程 )； b). 对各层从 M 到 2 反向计算 (反向过程 )； b. b. 对同一节点 j ∈M,由式 (34.1) 和 (34.2) 计算 δ jk ; E E N 第三步，修正权值， Wij =Wij-μ Wij , μ0, 其中 Wijk  BP 算法为： Ek Wij 。 从上述 BP 算法可以看出， BP 模型把一组样本的 I/O 问题变为一个非线性优化问题， 它使用的是优化中最普通的梯度下降法。 如果把神经网络的看成输入到输出的映射， 则这个 映射是一个高度非线性映射。 设计一个神经网络专家系统重点在于模型的构成和学习算法的选择。 一般来说， 结构是 根据所研究领域及要解决的问题确定的。 通过对所研究问题的大量历史资料数据的分析及目 前的神经网络理论发展水平， 建立合适的模型， 并针对所选的模型采用相应的学习算法， 在 网络学习过程中，不断地调整网络参数，直到输出结果满足要求。 第 2 节 DPS 数据处理系统操作步骤 在 DPS 数据处理