最新数学建模之神经网络.docVIP

精品文档 神经网络 神经网络不需要做许多假设和和复杂的数学表达式，只用通过学习样本进行训练。 一、BP神经网络 1.1简介 BP神经网络由输入层、隐层和输出层三层构成。对于BP神经网络，网络的性能受局部不准确试验数据的影响很小。所以BP神经网络有很强的容错性。 缺点：训练时间较长，求得的解可能是局部极小解。 W是隐层第i个神经元与输出层第是输入量的个数，K个神经元的连接 若Ril b是阈值。则通用神经元模型如下：权值， i f ∑ ... 将多个神经元模型串起来会得到n个神经元输出，第i个神经元输出为 R??b??nx ikiik1k? 个神经元经过任意传递函数后得到输出为第i )npurelin()|tansig(n|n?(?yfn)logsig() iiiiiBP神经网络的应用 ①沼泽草炭土结构特性及模型研究（下载文档） 2.1步骤 ①构造建模方案 根据输入与输出关系写出表达式，如三输入，一输出的非线性函数表达式为 ??)qdf?(,, 相对应的神经网络结构为BP 精品文档． 精品文档 ...... ?xoy输出节点。隐节点，设BP，网络三层节点的输入节点，，分别表示ijjli T表示隐节点和输出节点之间的网络表示输入节点和隐节点之间的网络权值，li函数。若输出节网络的权值进行修正，采用sigmoid权值，我们用梯度法对BP t 点期望输出，则有l 输入节点至隐节点的公式为： ????????)?(k1)(k? 阈值修正：jiii ????T?)(1?yy 误差： liiilil ????????)k(k?1)?( 权值修正: jiijij 隐节点至输出节点的公式为： n?(k))(k|,?|to?e控个输出节点数，则一个样本的误差为np若有个样本数，llk1l? p??,e?E? 制误差范围是k1k? ???????)(k?(k1)? 阈值修正：lll ??为迭代次数）k?(Tk?1)T()?y,(k 权值修正：ililil ?)??)?t?(ooo(1? 误差：lllll 输出节点的计算公式为： 精品文档． 精品文档 ????)?xy?f(x为连接权为输入节点的输入，隐节点的输出：，其中ijjijiijj ? 值，为节点阈值。i ?T为节点阈值输出节点的输出，其为连接权值iii BP算法参数优化② ），-1一般选取初始权值的范围为：（，+1表示样本训总数，则隐含节点s用in,out分别表示输入层，输出层的节点数， outs/out?in??hide 数的大约取值： 程序框图如下： 初始输入学习样和目标输计算隐层、输层神经元输计算隐层、输层神经元误修改连接权值神经元阈更新学习样学习样本结束误差小允许值？更新学习次数是学习次数小于上限值？否结束 精品文档． 精品文档 BP④改进神经网络算法学习BP可能出现局部最小解的问题，我问用带动量因子算法对BP针对算法的基础上往每个权值的变化上再加一项正比于过程进行改进。方法是在BP 前次权值变化的值，同时由方向传播来产生新的传播变化。 一般取0.95左右，则权值调节为：用K，c分别表示训练次数和动量因子，c ??)(kp?cw?w(k?1)(1?c) ijijji ??)k?cb((k?1)?(1?c)b iii 神经网络二、RBF“基”首先用径向基函数作为隐含层节点的RBF神经网络是一种三层前向网络，将低维的模式输入映射到高维空对输入矢量进行一次性变化，构成隐含层空间， 网络结构如下间内，然后通过对隐含层接点输出的加权求和得到输出。RBF 2.1 RBF网络的应用 ①广州铁路枢纽运货量预测（下载文档） ②沼泽草炭土结构特性及模型研究（下载文档） 2.2步骤 （1）用K均值聚算类算法计算基函数中心 )m2,,d(i?1,d的m个训练样本作为①聚类中心的初始化，一般用最初的ii 值。 ),ntx(?1,2,d的输入分到中心是②按照最近邻规则将样本集合分组，即将ti ??d?min||x?d||?1,?xm2,,)i(。中，所以有且样本聚类集合 iitiit 精品文档． 精品文档 ??m中样本的平均值，③将聚类中心重新调整，表示用计算的输入样本数，iii 1?x?d。 即聚类中心tim?x?若聚类中心有变化则重复以上步骤，否则进入下一步。得到RBF网络最终基函数中心。 （2）方差的计算 d表示选取中心间的最大距离，则方差为 选取高斯函数为径向基函数，用max d?max,i?1,2,,?m im2 （3）最小二乘法计算权值 ydx表示网络的计算输出，一般误差准则是平表示相对于输入用