递归神经网络的研究及在非线性动态系统辨识中的应用-控制理论与控制工程专业论文.docx

太原理工大学硕士研究生学位论文递归神经网络的研究 太原理工大学硕士研究生学位论文 递归神经网络的研究 及在非线·眭动态系统辨识中的应用 摘要 非线性动态系统的辨识一直是控制领域研究的难点和热 点。传统的多层前向神经网络属于静态网络，在非线性动态 系统的应用中存在很多问题。而递归神经网络由于其反馈特 征，能够获取系统的动态相应特征，更适合于非线性动态系 统的辨识。并且在辨识中，不需事先选择模型阶次，简化了 辨识过程。因此，递归神经网络是控制系统辨识中最具发展 潜力的网络。近年来引起人们的广泛关注。 递归神经网络的结构有许多种，由于结构上的不同，必然 导致输入／输出关系的相异，因而表现出不同的动态变化性能。 本文对递归神经网络的结构作出了总结。将递归动态网络分为 三大类：全局反馈递归网络、前向递归网络和混合型递归网络。 每一类网络又可分为若干种网络。给出了每种网络描述网络特 太原理1=大学硕士研究生学位论文性的结构图，同时还对多种网络进行了功能对比，分析了各种 太原理1=大学硕士研究生学位论文 性的结构图，同时还对多种网络进行了功能对比，分析了各种 网络的异同。 在神经网络的发展进程中，学习算法的研究一直是神经网 络研究的核心。而递归神经网络的学习算法一直沿用以误差反 传为基础的学习算法，它具有明显的反向传播的缺陷：收敛速 度慢，容易陷入局部极小。本文介绍了目前国内外提出的两种 递归神经网络学习算法——基于递推最小二乘(RLs)算法的 递归神经网络学习算法、基于递推预报误差(RPE)算法的递归 神绎网络学习笸渍． 以误差．修正学习为基础，寻找目标函数的极小值的过程 是寻优的过程。最优化算法可分为两大类：确定类算法和随机 类算法。本文从这两类最优算法出发，提出了两类新的递归神 经网络学习算法。 第一类算法将标准数值优化技术中Levenberg-Marquardt (LM)算法引入到递归神经网络的权值学习中来，提出了递归神 经网络的LM学习算法。这种算法提供了牛顿法的速度与保证 收敛的最速下降法之间的一个折衷。进一步地，为了克服递归 神经网络的LM算法集中运算的不足，提出了并行LM算法。它 将计算分配到神经网络中的每个神经元，突出了神经网络并行 处理信息的能力，提高了收敛速度与精度。 太原理工大学硕十研究生学位论文第二类算法以一种基于模拟退火思想的随机搜索算法一 太原理工大学硕十研究生学位论文 第二类算法以一种基于模拟退火思想的随机搜索算法一 一Alopex算法为基础，提出了递归神经网络的改进Alopex算 法。这种算法克服了A10peX算法中修正值固定不变的缺点，加 快了收敛速度。并且它的随机性有助于逃脱局部极小，做到全 局搜索。 同时，通过对非线性系统辨识的仿真，对燃油加热炉的建 模，验证了这两类递归神经网络学习算法的有效性。针对传感 器受温度影响的复杂的非线性输入输出特性，利用递归神经网 络建立了与之相适应的神经网络模型，该模型可同时实现温度 补偿和非线性校正。这三个实例突出了递归神经网络辨识的优 越性。 关键词： 递归神经网络，结构，学习算法，非线性动态系统， 辨识 太原理1大学硕士研究生学位论文THE 太原理1大学硕士研究生学位论文 THE RESEARCH 0F RECI 7RRENT卜mURAL NETWORK AND ITS APPLICATION ON NONLINEAR DYNAMIC SYSTEM IDENTIFICATl0N AB STRACT The identi：fication of nonlinear dyn啪ic system is always the dimcult)，and the focus in the nelds of controlresearch．Multilayer forward neural network belongs to static network，so there are many problems in nonlinear dynamic system application based on it．While with feedback behavior．the recurrent neural network can catch up witll the dynamic response of the system，and it is proposed for nonlinear dynamic system identi丘cation．And in the identification based on the recurrent neural network．the model order need not to be selected，so