BP神经网络理论与实验结果.docVIP

神经网络简介： 神经网络是大脑的一个组成部分。James在1890年的《心理学》一书中这样描述神经网络的基本原理：大脑皮层每一点的活力是由其它点势能释放的综合效能产生的，这些势能与如下因素有关：（1）相关点的兴奋次数；（2）兴奋的强度；（3）与其不相连的其它点所接受的能量。他的这一原理一直沿用至今。到目前为止，神经网络的研究主要分为两个派别：一派主要包括生物学家、物理学家和心理学家等，他们研究的主要目的是给出大脑活动的描述和精细模型；另一派主要包括工程技术人员等，他们关心的是怎样利用神经网络的基本原理，来构造解决实际问题的算法，使得这些算法具有有效的计算能力，我们称之为神经网络的工程应用研究，或称为人工神经网络（artificial neural network, ANN），简称为神经网络。人工神经网络可以分为前向型和反馈型两类：前向型神经网络的特点是信息传递由后层神经元向前层神经元传递，同一层内的神经元之间没有信息交流；反馈型神经网络中的神经元之间不但相互作用，而且自身也有信息内耗。BP神经网络是一种多层前向神经网络，名字源于网络权值的调整规则采用的是后向传播学习算法（也称为反推学习规则），即BP学习算法(back-propagation, BP）。BP学习算法是Rumelhart等在1986年提出的。至此以后，BP神经网络得到了广泛的实际应用，据统计，80％～90％的神经网络模型都采用了BP网络或者它的变形。 BP神经网络理论 BP神经网络是一种单向传播的多层前向型网络，其结构如图所示。由图可见，BP网络是一种具有三层或三层以上的神经网络，包括输入层、中间层（隐层）和输出层。上下层之间实现全连接，而每层神经元之间无连接。当一对学习样本提供给网络后，神经元的激活值从输入层经各中间层向输出层传播，在输出层的各神经元获得网络的输入响应。接下来，按照减少目标输出与误差的方向，从输出层经过各中间层逐步修正各连接权值，最后回到输入层，这种算法称为“误差逆传播算法”，即BP算法，随着这种误差逆的传播修正不断进行，网络对输入模式响应的正确率也不断上升。BP网络的传递函数要求必须是可微的，常用的有Sigmoid型的对数、正切函数或线性函数，即 BP网络学习规则 下面以一个三层BP网络为例，介绍BP网络的学习过程及步骤。 首先对符号的形式及意义说明如下： 网络输入向量； 网络目标向量； 中间层单元输入向量，输出向量； 输出层单元输入向量；输出向量； 输入层至中间层的连接权，，； 中间层至输出层的连接权，； 中间层各单元的输出阈值，； 输出层各单元的输出阈值，； 参数，为训练样本序号。 BP网络学习过程及步骤如下： （1）初始化。给每个连接权值、、阈值、赋予区间内的随机值。 （2）随机选取一组输入和目标样本、 提供给网络。 （3）用输入样本、连接权和阈值计算中间层各单元的输入，然后用通过传递函数计算中间层各单元的输出。 ， ， （4）利用中间层的输出、连接权和阈值计算输出层各单元的输出，然后通过传递函数计算输出层各单元的响应。 ， ， （5）利用网络目标向量，网络实际输出，计算输出层的各单元一般化误差。 ， （6）利用连接权、输出层的一般化误差和中间层的输出计算中间层各单元的一般化误差。 （7）利用输出层各单元的一般化误差与中间层各单元的输出来修正连接权和阈值。 ，， （8）利用中间层各单元的一般化误差，输入层各单元的输入来修正连接权和阈值。 ，， （9）随机选取下一个学习样本向量提供给网络，返回到步骤（3），直到个训练样本训练完毕。 （10）重新从各学习样本中随机选取一组输入和目标样本，返回步骤（3），直到网络全局误差E小于预先设定的一个极小值，即网络收敛。如果学习次数大于预先设定的值，网络就无法收敛。 （11）学习结束 可以看出，在以上的学习步骤中，（7）～（8）步为网络误差的“逆传播过程”，（9）～（10）步则用于完成训练和收敛过程。 用BP神经网络预测本实验中的过滤效应与透气量。 对于BP网络，有一个非常重要的定理，即对于任何在闭区间内连续的函数都可以用单隐层BP网络逼近，因而一个三层BP网络就可以完成任意的维到维的映射，因此，本实验使用三层BP网络进行预测，学习函数：输入层到隐层使用tansig函数，隐层到输出层使用logsig函数。 在原数据表中选取同一条件下的每一组数据中的第一个数据作为测试数据，剩余数据为训练数据样本。训练数据如下表。 表3-4 聚乳酸熔喷非织造布在不同工艺下的过滤效率 温度/℃ DCD/cm 定量/ g·m-2 过滤效率/% 温度/℃ DCD/cm 定量/ g·m-2 过滤效率/% 250 10 450 17.16 270 15 100 90.89 250 10 450 16.78 270 15 100