动态驱动递归网络介绍.docVIP

第15章 动态驱动递归网络 15.1 介绍 给定多层感知器作为基本模块，应用全局反馈可以有不同的形式。反馈可以从多层感知器的输出神经元到输入层。而且另一个可能的全局反馈可以从网络的隐单元到输入层。 递归网络有两个基本功能： 联想记忆 输入输出映射网络 递归网络动态地响应外部应用的输入信号,称递归网络为动态驱动递归网络.而且，反馈的应用使得递归网络获得状态表示. 优势: 大大减少记忆需求. 本章分四部分：体系结构，理论，学习算法和应用。 第一部分15.2讨论递归网络的结构。 第二部分，包括15.3节至15.5节，讨论递归网络的理论部分。15.3讨论了状态空间模型和相关的可控性和可观察性的问题。15.4导出了一个状态空间模型的等价模型，被称为有外部输入的非线性自回归的模型。15.5讨论了递归网络计算能力的一些理论问题。 第三部分，包括15.6节至15.12节，讨论递归网络的学习算法和相关问题.开始在15.6节有个综述，15.7讨论了在第4章的材料基础上所建立的通过时间的反向传播算法.8讨论了另一个流行算法：实时回归学习. 15.2 递归网络体系结构 递归网络的结构布局有很多不同形式。本节我们讨论了四个特殊结构，每一个都强调了全局反馈的一种特殊形式1。他们都有如下特点： 都有结合了静态多层感知器或一部分。 都利用了多层感知器的非线性映射能力。 输入输出递归网络 图15.1显示了一个多