基于连续时间系统仿真的神经网络学习算法研究.pdfVIP

系统仿真技术及其应用·第10卷 基于连续时间系统仿真的神经网络学习算法 蔡远利1 林志民2 (t．ili安交通大学电子与信息1-程学院．陕西，两安，710049：2启湾元智大学电机通讯学院，台湾，桃园，320) 捕要：从连续时间动力学的角度，研究了多层前馈神经网络的学习问题。基于李雅普诺夫稳定性分析方法，建立了一种神 经网络权重参数连续调整的学习算法，并基于连续时间系统仿真的思想，给出了一种算法实现的自适应策略．算法实现中， 通过估计截断误差估计自动调整步长，几乎不需要人工确定任何参数，而且可以保证算法的稳定性及计算精度。最后，给出 了一个典型的应用算例． 关键词：连续时间系统：前馈神经网络；自适应学习算法；误差动力学；数字仿真 中图分类号：TPl83 A forNeuralNetworksBased LearningAlgorithm Upon Continuous-TimeSimulation System CaiYuan．LilLi咒Chih—Min2 (1．Xi’a11．1iaotongUniversity，Shanxi，Xi’all，710049：2．Yuan-ZeUniversity，Taiwan，Taoyuan·320) The issueinfeedforwardneuralnetworksis and fromthe ofcontinuous—time Abstractl learning investigatedanalyzed viewpoint continuous forthe feedforwadnetworksisset basedon dynamics．A learningalgorithmmultilayer up Lyapunovstatbility system all lawforthenetwork is thecontious—timesimulation．Inthe theory,andadaptiveupdating weightspresentedupon system algorithm estimatedtruncationerroris to the no are to preset requiredoperate implementation，the appliedadjuststep-size．Almostparameters thediscrete-time numerical and are illustrative laws，and stabilitysatisfactory assured．Finally,all adaptivelearning accuracy are examplesgiven． wordsIContinous·Time Neural Laws；Error Simulation Key System：FeedforwardNetworks：AdaptiveUpdating Dynamics：Digital l 引言 正项的BP算法是其中最著名的一种，在许多场合都比标 准的BP算法有效口o】。然而。确定该算法中的学习率及