第十九章神经网络模型方案.pptVIP

第十九章 神经网络模型 一个引例 根据图示，可考虑作一直线，就可将两类飞蠓分开。 缺陷：根据什么原则确定分类直线？ 再如，如下的情形已经不能用分类直线的办法： 神经网络模型的生物学背景 人类大脑大约包含有1011~1012个神经元，每个神经元与大约103～105个其它神经元相连接，构成一个极为庞大而复杂的网络，即生物神经网络。 人工神经网络是集脑科学、神经心理学和信息科学等多学科的交叉研究领域，属于仿生学的一部分，是近年来高科技领域的一个研究热点。 它的研究目标是通过研究人脑的组成机理和思维方式，探索人类智能的奥秘，进而通过模拟人脑的结构和工作模式，使机器具有类似人类的智能。已在模式识别、机器学习、计算机图像处理、专家系统等各个方面得到广泛的应用，成为人工智能研究中的活跃领域。 神经元的人工模型（ MP模型） 处理单元（人工神经元）结构示意图 人工神经元的工作过程 对于第i个处理单元（神经元）来说，假设来自其他处理单元（神经元）j的信息为uj，它们与本处理单元的互相作用强度即连接权值为wji, j=1,2,…,n,处理单元的内部阈值为θi。那么本处理单元（神经元）的输入为 由多个神经元组成的单层网络结构图示 由多个单层（2层）网络组成的多层网络图示 神经网络的学习 反向传播模型及其网络结构 反向传播模型也称B-P模型，是一种用于前向多层的反向传播学习算法。之所以称它是一种学习方法，是因为用它可以对组成前向多层网络的各人工神经元之间的连接权值进行不断的修改，从而使该前向多层网络能够将输入它的信息变换成所期望的输出信息。之所以将其称作为反向学习算法，是因为在修改各人工神经元的连接权值时，所依据的是该网络的实际输出与其期望的输出之差，将这一差值反向一层一层的向回传播，来决定连接权值的修改。 B-P算法的网络结构是一个前向多层网络，如图所示。 反向传播网络的学习算法 B-P算法的学习目的是对网络的连接权值进行调整，使得调整后的网络对任一输入都能得到所期望的输出。 学习过程由正向传播和反向传播组成。 正向传播用于对前向网络进行计算，即对某一输入信息，经过网络计算后求出它的输出结果。 反向传播用于逐层传递误差，修改神经元间的连接权值，以使网络对输入信息经过计算后所得到的输出能达到期望的误差要求。 B-P算法的学习过程如下： （1）选择一组训练样例，每一个样例由输入信息和期望的输出结果两部分组成。 （2）从训练样例集中取一样例，把输入信息输入到网络中。 （3）分别计算经神经元处理后的各层节点的输出。 （4）计算网络的实际输出和期望输出的误差。 （5）从输出层反向计算到第一个隐层，并按照某种能使误差向减小方向发展的原则，调整网络中各神经元的连接权值。 （6）对训练样例集中的每一个样例重复（3）—（5）的步骤，直到对整个训练样例集的误差达到要求时为止。 在以上的学习过程中，第（5）步是最重要的，如何确定一种调整连接权值的原则，使误差沿着减小的方向发展，是B-P学习算法必须解决的问题。 B-P算法的优缺点： 优点：理论基础牢固，推导过程严谨，物理概念清晰，通用性好等。所以，它是目前用来训练前向多层网络较好的算法。 缺点： （1）该学习算法的收敛速度慢；（2）网络中隐节点个数的选取尚无理论上的指导；（3）从数学角度看，B-P算法是一种梯度最速下降法，这就可能出现局部极小的问题。当出现局部极小时，从表面上看，误差符合要求，但这时所得到的解并不一定是问题的真正解。所以B-P算法是不完备的。 简单网络的B-P算法 假设有P个训练样本，即有P个输入输出对 （Ip, Tp）,p=1,…,P, 其中 记 ipm= -1 , wim= (第i个神经元的阈值) （5） 假设： 多层前馈网络 假设： （3）设层与层间的神经元都有信息交换（否则，可设它们之间的权重为零）；但同一层的神经元之间无信息传输． 在上述假定下网络的输入输出关系可以表示为： 五、应用举例1 问题描述 在金属成形过程设计中，需要知道施于工件与模具之间的润滑剂的摩擦特性以及工件材料的流动应力，以优化成形过程。金属环锻压实验是测定介面摩擦特性和材料流动应力的最简单的试验方法。 用上界法绘制不同摩擦因素条件下的标定曲线族，曲线自变量为环内径减小的百分比（λ）和环高度缩减的百分比（γ），应变量是摩擦因素（m）和流动应力（σ）。 应用举例1 用神经网络测定 训练样本1600个，四层反向传播网络，分别用2、12、12、2个神经元。学习规则用改进的δ规划。 应用举例1 应用举例2 输入数据有15个，即 , p=1,…,15; j=1, 2; 对应15个输出。