- 8
- 0
- 约4.07千字
- 约 9页
- 2021-11-08 发布于天津
- 举报
BP神经网络模型
第1节基本原理简介
近年来全球性的神经网络研究热潮的再度兴起,不 仅仅是因为神经科学本身取得了巨大的进展.更主要 的原因在于发展新型计算机和人工智能新途径的迫切 需要.迄今为止在需要人工智能解决的许多问题中, 人脑远比计算机聪明的多,要开创具有智能的新一代 计算机,就必须了解人脑,研究人脑神经网络系统信 息处理的机制.另一方面,基于神经科学研究成果基 础上发展出来的人工神经网络模型,反映了人脑功能 的若干基本特性,开拓了神经网络用于计算机的新途 径.它对传统的计算机结构和人工智能是一个有力的 挑战,引起了各方面专家的极大关注.
目前,已发展了几十种神经网络,例如Hopficld模 型,Feldmann等的连接型网络模型,Hinton等的玻尔 茨曼机模型,以及Rumelhart等的多层感知机模型和 Kohonen的自组织网络模型等等。在这众多神经网络 模型中,应用最广泛的是多层感知机神经网络。多层 感知机神经网络的研究始于50年代,但一直进展不 大。直到1985年,Rumelhart等人提出了误差反向传 递学习算法(即BP算),实现了 Minsky的多层网络
输入层中间层 输出层34-1 BP神经网络模型设想,如图34?1所示。
输入层
中间层 输出层
34-1 BP神经网络模型
BP算法不仅有输入 层节点、输出层节点, 还可有1个或多个隐含 层节点。对于输入信号,
要先向前传播到隐含层
节点,经作用函数后,再把隐节点的输出信号传播到 输出节点,最后给出输出结果。节点的作用的激励函 数通常选取S型函数,如
式中Q为调整激励函数形式的Sigmoid参数。该算 法的学习过程由正向传播和反向传播组成。在正向传 播过程中,输入信息从输入层经隐含层逐层处理,并 传向输出层。每一层神经元的状态只影响下一层神经 元的状态。如果输出层得不到期望的输出,则转入反 向传播,将误差信号沿原来的连接通道返回,通过修 改各层神经元的权值,使得误差信号最小。
社含有〃个节点的任意网络,各节点之特性为 Sigmoid型。为简便起见,指定网络只有一个输出y, 任一节点i的输出为Oi,并设有N个样本 (乂5)(奸123,...何,对某一输入加 网络输出为>k节 点,?的输出为节点,的输入为netjk卓
并将误差函数定义为 其中五为网络实际输出,定义Ek=3k或k)2,。吗,且
Ojkh(netjk),于是
?Ek _沮One项_沮°
dWo命顼dWtj而机川」SkOjk
当/为输出节点时,Ojk=9k
=一(以一丸)广(商。(34.1)
=一(以一丸)广(商。
(34.1)
若/不是输出节点,则有
6F 60 船 3F
= ~―~~ =希^ ~―~ / (net」*)
onet 水 cO^ onetjk oOJk
dEk 6Ek anetwt,
aOjk m 8ne、dOjk
yw o
^8net,”30.》*
因此QP
因此
in °nCl 比 i tn
幺=/(netQ£如叫u
m
dE
寸=CM
l 叫 (34.2)
如果有A/层,而第M层仅含输出节点,第一层为输
入节点,则BP算法为:
第一步,选取初始权值W。
第二步,重复下述过程直至收敛:
cl a. 对于k=l到N
。).计算Oik, netjk和允的值(正向过程);
b).对各层从M到2反向计算(反向过程);
b. b. 对同一节点jEM,由式(34.1)和(34.2)计
算上
oE
第三步,修正权值,吧,0,其中 oE _ dEk 顽=9死。
从上述BP算法可以看出,BP模型把一组样本的I/O 问题变为一个非线性优化问题,它使用的是优化中最 普通的梯度下降法。如果把神经网络的看成输入到输 出的映射,则这个映射是一个高度非线性映射。
设计一个神经网络专家系统重点在于模型的构成 和学习算法的选择。一般来说,结构是根据所研究领 域及要解决的问题确定的。通过对所研究问题的大量 历史资料数据的分析及目前的神经网络理论发展水 平,建立合适的模型,并针对所选的模型采用相应的 学习算法,在网络学习过程中,不断地调整网络参数, 直到输出结果满足要求。
第2节DPS数据处理系统操作步骤
在DPS数据处理系统中,数据的输入格式是一行 为一个样本,一列为一个变量,输入节点(变量)放在 数据块左边,输出节点(因变量)放在数据块右边,输 完一个样本后再输下一个样本。对于待识别(预测)的 样本,不需要输入输出变量(因变量)。
数据输入完毕后,定义数据块。如有待识别(预测) 的样本,可在按下Ctrl键时再按下并拖动鼠标,将待 预测的样本定义成第二个数据块。
在进行神经网络学习之前,系统出现如图34-2所示 界面,这时需要你提供若干参数,各个参数取值的基 本原则是:
图34-2神经网络参数设置对话框
网
您可能关注的文档
- 9.1《平面的基本性质4》教案(旧人教第二册下).docx
- 9.1《平面的基本性质3》教案(旧人教第二册下).docx
- 9.1《平面的基本性质2》教案(旧人教第二册下).docx
- 9.1《平面的基本性质1》教案(旧人教第二册下).docx
- 8.2《椭圆的几何性质(5)》教案(旧人教第二册上).docx
- 8.3《双曲线的标准方程(2)》教案(旧人教第二册上).docx
- 8.4《双曲线的简单几何性质(1)》教案(旧人教第二册上).docx
- 8.4《双曲线的简单几何性质(2)》教案(旧人教第二册上).docx
- 8.4《双曲线的简单几何性质(3)》教案(旧人教第二册上).docx
- 8.5《抛物线及其标准方程(2)》教案(旧人教第二册上).docx
原创力文档

文档评论(0)