词动态最佳化广义逆／OBP算法多层前馈网络DEDS希哮固龟.PDF

重废大学学报 (自鼎科学版) Vo1．19．№．6 多层前馈神经网络的动态规划算法 Dynamical Programming Algorithm for TP J Multilayer feedforward Neural Networks √ 0 z J-) 叶仲 泉0 张 邦 礼0 曹 长 修0 Ye Zhongquan Zhang BengU Cao Changxiu t①重庆太学蕞境工程厦应用教学粟·重庆，63004 4 n@重庆大学信息工蠢学院-第一作者35岁。男，讲师．博士) 摘 要 利用动态规划来训练多层前馈网络，即逐层修改网络的权值。其算法采用有关 文献提出的矩阵的广义逆的正交反向传播算法(OBP)，经有限次迭代即可得到每一层的最 优权 关键词动态最佳化；广义逆词动态最佳化；广义逆／OBP算法 多层前馈网络(DEDS) 希哮 固 龟 算法 多层前馈网络 叩 ，2『 J，， 中国图书资料分类法分类号 … 3 — — 幼 玺 I ’’ 。●_ ’-磋 ABSTRACT This paper trains the multilayer neural networks using dynamical l sing dynam ical progr amming． The weithts are adjusted layer by layer．The optimal weightS of each layer ate calculated using OBP algorithm proposed in the related reference．The globally optimal weishtS of each layer can be oh- mined by finite iterations． KEYWORDS dynam ic optimization}generalized inverse／OBP alsorithml multil~Iyetfeed- 1 动态规划与最优性原理 基于对多级决策过程的研究，R．Bclleman在5O年代首先提出动态规划法。目前该方法 已在许多领域得到了广泛的应用，在生产、资源分配、设备更新、多级工艺设备的优化设计以 及信息处理、模式识别等方面都得到了成功的应用。 动态规划是一种分步(级)优化方法，在多级决策寻优过程中，它是一种有效的方法。事 实上，泛函极小化问题可以看成是一控制过程的结果。 动态规划法的基本思想是将一个多步最优决策问题化成多个一步最优控制(决策问 题)。 Bellman所提出的动态规划法概括起来是建立在最优性原理的基础之上。 最优性原理；在多步控制(决策)过程中的最优控制(决策)序列具有下列性质，即不论初 始阶段、初始状态及初始控制如何，余下的控制序列对新的初始状态(即初始阶段的末值状 态)而言，仍然构成最优控制序列。 收文日期 1996．0{-05 重废大学学报 (自拣科学版) 从最优轨线的角度看，最优性原理也可表述为 最优轨线的一部分必为最优轨线。 2 矩阵广义逆的OBP算法 考察矩阵方程 H”B=C (1) 其中B∈ x．，C∈Rp 为已知的矩阵，W’∈R 为未知的矩阵