一种可用于时序预测的自反馈神经网络.pdfVIP

《预测》1998年第 6期 ·理论与方法研宄 · l一 一 种可用于时序预测的自反馈神经网络 幽 。宣自壅 丁尸1 (：IhA-交通大学交通运输学院 ]．00044) 摘 要 本文提出了一种可甩作非线性时序模型的 网络 ，如图l所示。(a)为Elman网络的方框图，(b) 自反馈神经网络，井用时序预测实倒证明了 为只有一个输出节点的Elman阿络的具体结构。这种 其顸刹l能力 。 网络的主要结构是前馈的，前馈连接是可枷练的 与 美键词 神经网络 反馈 时序预测 前馈神经同络相比，Elman阿络除了具有输入节点、隐 ● _ _ _ _ -～ - - _ _ _ _ 。 一 ● 。～ 节点和输出节点外还有关联节点，用来存储隐节点的 1 引言 前一时刻的活性，并在下一时刻输出给隐节点。我们 几乎在社会科学和 自然科学的各种领域中都会 可以将关联节点看作是输入节点，只不过其输人是隐 遇到时间序列．我国经济领域中存在大量 的数据资料 节点在上一时刻的输出。可见，这种神经阿络的输入 需要进行分析处理，用于进行预测和决策，因此研究 与网络内部状态的当前值和过去值都有关，所阻整个 探索有效的时序预测方法很有必要。现实经济系统是 阿络是一个动态模型。 一 个极其复杂的非线性系统，客观上要求建立非线性 相对于一个不带反馈的前馈神经同瞎来说．这种 模型。这些年来有许多人研究非线性现象，提出了一 Elman神经同络的可调连接权增加了许多，设蹲节点 些非线性时序预测模型，如门限自回归模型、双线性 个数是h，则关联节点与稳节点之间的连接的个数是 模型等。但 由于非线性模型与线性模型相比，其范围 h，即这种反馈神经同络的参数个数比相应的不带反 之大有如空间中各种曲面比之于平面，不可能仅用某 馈的前馈两络增加了h个。连接权个数的增多意味着 些解析表达完全。 同络训练时间的增长。为此，奉文提出一种 自反馈神 数学上能够证明，人工神经同络可以逼近所有函 经两络，其结构如图2所示。它实质上是Elrnan两络的 数 ’，这意味着神经网络能逼近那些刻划了样本数 一 种葡化，即隐层神经元仅接受本身输出的一步延迟 据规律的函数，而不论这些函数具有什么样的形式， 自反馈．这种神经阿络同掸能实现动态映射，而且由 且所考虑的系统表现的函数形式越复杂，神经阿络这 于隐层不同神经元之间不存在任何反馈连接，所以自 种特性的作用就越明显 ]。概括地说，神经同络主要包 反馈神经同络有比E|rnBn网络少得多的连接权，所需 括有两种，前馈神经网络和反馈神经阿络。目前比较 存储和训练时间都相应减少。 多的是采用多层前馈神经网络作为时序预测模型。前 馈神经网络没有反馈连接，没有动态记忆，本质上是 一 个非线性静态映射网络，因此在表示一个动态系统 时需采用时延的方法，通过将多个过去值同时输人给 网络而将学习系统在时域中的动态行为转换成静态 殃射问题。当对一个未知系统不太了解时需采用较多 输入节点，这就导致了阿络结构较大而使计算速度减 慢 另外由于参数的增多而易导致过度拟台 本文提 出，在前馈神经同络的隐层神经元上引入 自反馈，并 尝试采用这种自反馈神经网络进行时序预测 2 自反馈神经网络的提出 有一种反馈网络是由Elrnan提出的，称为Elman 收稿 日期 ：1998—07—02 · 41 · 3 自反馈神经网培的学习算法 和E|man同络一样，这种自反馈神经同络可采用