动态神经网络综述归纳.pdfVIP

动态神经网络综述 摘 要 动态神经网络 (DNN)由于具有很强的学习能力和逼近任意非线性函数的特点 而被广泛应用。 本文系统介绍了该网络的几种常见模型， 并在此基础之上介绍它 的基本学习算法、功能、应用领域、实际推广。 关键词： 动态神经网络，模型，功能，算法，应用 Abstract Dynamic Neural Network (DNN) has been widely applied by means of the strong ability of learning and the characteristic of approximating any nonlinear function. The paper mainly introduces several models of common dynamic neural network, and dynamic neural networks function, basic algorithm, application and promotion. Keywords: DNN, Models , Function , Algorithm , Application 1 1、绪论 人工神经网络（ Artificial Neural Networks ，简写为 ANNs）是一种应用 类似于大脑神经突触联接的结构进行信息处理的数学模型。 在工程与学术界也常 直接简称为神经网络或类神经网络。 神经网络是一种运算模型， 由大量的节点 （或 称神经元） 和之间相互联接构成。 每个节点代表一种特定的输出函数， 称为激励 函数（activation function ）。每两个节点间的连接都代表一个对于通过该连接 信号的加权值， 称之为权重， 这相当于人工神经网络的记忆。 网络的输出则依网 络的连接方式， 权重值和激励函数的不同而不同。 而网络自身通常都是对自然界 某种算法或者函数的逼近，也可能是对一种逻辑策略的表达 [1] 。 神经网络按是否含有延迟或反馈环节， 以及与时间是否相关分为静态神经网 络和动态神经网络 , 其中含有延迟或反馈环节，与时间直接有关的神经网络称为 动态神经网络 [2] 。动态神经网络具有很强的学习能力和逼近任意非线性函数的特 点, 自20 世纪 80 年代末以来 , 将动态神经网络作为一种新的方法引入复杂非线性 系统建模中引起了工程控制领域许多学者的关注 [3] 。动态神经网络现在已经广泛 地用于模式识别、语音识别、图象处理、信号处理、系统控制、 AUV自适应航向 和机器人控制、 故障检测、变形预报、最优化决策及求解非线性代数问题等方面。 本文第二章主要介绍了动态神经网络的分类， 基本模型和算法； 第三章主要 介绍了动态神经网络的应用；第四章简要介绍了神经网络的改进方法。 2、DNN网络的基本模型和算法 根据结构特点， 可以将动态神经网络分为 3 类 : 全反馈网络结构 , 部分反馈网 络结构以及无反馈的网络结构。 反馈网络 (Recurrent Network), 又称自联想记忆网络 , 如下图所示 : 图 2-1 反馈网络模型 反馈网络的目的是为了设计一个网络， 储存一组平衡点， 使得当给网络一组 初始值时，网络通过自行运行而最终收敛到这个设计