求解超定线性方程组及其相关问题的神经网络算法.pdfVIP

维普资讯 第36卷第4期 大 连 理 工 大 学 学 报 Vm ．36．No 4 Journal0fDalianUniversltyofTechnology JtlI．1 9 9 6 1996年 7月 求解超定线性方程组及其相关问题的神经网络算法 钮卜午 任传波 于万明 云大真 z 2f， 、 t大连理工大学工程力学采 116024) 摘要 探讨了几】神经网络琅解超定线性方程组及其相关问题的可能性．并 给出了求解的Hebb算法 最后，求解 了四个数值例子．获得了较为满意的 结果．实例证明．对于用某些迭代法不能求解的线性方程组问题 ．率方法都 能得到其收敛解． 关键词 超定方程蛆 ；线性方程 分类号 貌 螽 丝 抻经 网络现在 已成为国际上十分活跃的研究领域．它被广泛地应用于控制系统、识别系 统、天气预报、图象处理等诸多领域，并获得了极大的成功，显示出非凡的活力．但是，神经 网络在求解赶定【线性代数方程组及其相关问题方面的工作还不多见，作者在这方面进行 了尝 试 ，得到 了较为满意的结果． 抻经网络是 由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算机系统， 该系统是靠其状态对外部的输入响应来处理信息的．Hebb算法是抻经网络算法中最具有代 表性 的一种算法，可简单描述如下：如果一个处理单元从另一处理单元接收输入激励信号， 而且两者均处于高激励状态，那么处理单元问权道应当增强．这一点将为本文的算法提供一 个理论基础．按数学表示 ，其加权的改变为 (，+1)一 xlj()+ (1) 其中 c 、嘶 分别为第 ”+i和第 ”次嗣整前后从结点 i到结点 的连接权值； 为训练 速率系数 ，一般取 ∈(0．1)； 为结点 的输出．并输入到结点 J； ，为结点 的输 出． 1 超定线性方程组 的Hebb算法 1．1 超定线性方程组与神经网络在数学表选上的相似性 设有一超定线性方程组如下 ： 日IIl+dl22+ … + l 一 TI] - + n。。 + … + 。 — 7， }≥ (2) nlx + “22+ … + 日 以 = T 轾嚣 96-02Oft． 。“ 维普资讯 大 连 理 工 大 学 学 报 第36卷 式 (2)可进一步改写成 ^ ∑d。=丁，； i=1，2，…， (3) J= l 当m=^时，式 (2)就成为一般的线性代数方程组 ；下面的时沧同时也适应一般的线性代数方 程组． 为 了把超定线性方程组和神经 网络联系起来 ，本文研究具有一个输 出结点的单层前馈神