人工神经网络算法原理及其在工程中的应用.docVIP

人工神经网络算法原理及其在工程中的应用 侯靖东 河海大学土木工程学院土木系,南京(210098 E-mail :jindong-h@ 摘 要: 人工神经网络具有特有的非线性适应性信息处理能力,现已被应用于结构工程领域。本文介绍了应用最广泛的BP 网络模型、BP 算法以及BP 算法的改进,并基于MatLab 神经网络工具箱对一个工程实例进行预测分析,表明通过合理的网络模型可以预测得到较为精确的结果,因此用神经网络方法求解土木工程问题是可行的。 关键词:神经网络,BP 算法,预测分析,土木工程 中图分类号:TU17 人工神经网络(Artificial Neural Network 是在特理机制上模拟人脑机制的信息系统,它不但具有处理数值数据的一般计算能力,而且还具有处理知识的思维、学习、记忆能力。神经网络产生于20世纪40年代,于20世纪80年代由于Hopfield 将“能量函数”引入神经网络,使神经网络稳定性有了明确的判据,再度兴起并得到飞速发展,它采用类似于“黑箱”的方法,通过学习和记忆而不是假设,找出输入、输出变量之间的非线性关系(映射,在执行问题和求解时,将所获取的数据输入给训练好的网络,依据网络学习的知识进行网络推理,得出合理的答案与结果[1]。 1.人工神经网络的基本原理 人工神经网络是由许多简单的神经元组成的广泛并行互连的网络,它的组织能够模拟生物神经系统的真实世界物体做出交互反应,它是在物理机制上模拟人脑信息处理机制的信息系统,是一个具有高度非线性的超大规模连续时间动力系统,具有网络的全局作用、大规模并行分布处理和联想学习能力。 人工神经元是一个多输入单输出的信息处理单元,通过与其相连的其他神经元接收信息,它对信息的处理是非线性的,可以把神经元抽象为一个简单的数学模型,如图1所示。 图1 神经元的数学模型 在图1中,1x ,2x ,…,n x 是神经元的输入,即是来是前级n 个神经元的轴突的信息; i θ是i 神经元的阈值;i w 1,i w 2,…,ni w 分别是i 神经元对1x ,2x …,n x 的权值连接,即突触 的传递效率;i y 是i 神经元的输出;f 是传递函数,决定i 神经元受到输入1x ,2x …,n x 的共同作用达到阈值时以何种方式输出[2]。 传递函数f 有多种形式,其中最常见的有阶跃型、线性型和S 型三种。假设 i j n j ji i x w U θ?=∑=1 ,则对应三种典型传递函数(i U f 描述如下: (1阈值函数(也称为阶跃型传递函数 (? ??≥=000 1i i i U U U f (2线性传递函数,它的输出是与输入的综合作用成正比的。 (i i KU U f = (3S 型传递函数,它的输出是非线性的。 (( i i U U f ?+= exp 11 上述是最广泛应用且为人们最熟悉的神经元模型,由大量神经元相互连接组成人工神经网络将显示出人脑的某些基本特征:分布式存储信息、自适应性、并行性、联想记忆功能、自动提取特征参数、鲁棒性等。 2.BP 神经网络 BP (Back-Propagation 神经网络是目前发展比较成熟的一种人工神经网络,约有80%的神经网络系采用BP 网络。它是一种反馈式全连接多层神经网络,具有结构简单,工作状态稳定等优点,并且具有较强的联想、记忆和推广能力,可以以任意精度逼近任何非线性连接函数。 2.1 BP 网络的结构 BP 神经网络由一个输入层、一个输出层及一个或多个隐层组成,每一层可以有若干个节点。三层BP 神经网络的结构如图2所示。 图2 BP 神经网络结构 2.2 BP 神经网络的计算过程[3] BP 神经网络的计算过程由正向计算和反向计算过程组成。在正向计算过程中,输入信号要先向前传播到隐层节点,经过传递函数后,再把隐层节点的输出信息传播到输出层节点, 最后给出输出结果。若网络的输出值与期望值存在误差,则要进行误差反向计算,将误差信号沿原来的连接通路返回,通过修改连接各节点的权值使误差减小。 2.2.1 前向计算过程 采用如上的网络结构,当网络中输入层的输出分别是1x ,2x ,…,n x ,根据人工神经元的基本原理,隐层各神经元的输入分别是 (m i x I i n j j ij i ,...,2,11 =+=∑=θω 式中:ij ω为隐层神经元i 与输入层神经元j 的连接权;i θ为隐层神经元的阈值,选择Sigmoid 函数作为隐层神经元的激发函数,则隐层神经元的输出为: ( (m i I f O i i ,...,2,1== Sigmoid 函数为 (x e x f ?+= 11 一般,取输出层神经元的阈值为0,另外取比例系数为1的线性函数作为输出层神经元的激发函数,则输出层神经元的输出,也就是整个网络的输出为