连续时间神经网络的指数周期性及其离散模拟.pdf

连续时间神经网络的指数周期性及其离散模拟 孙长银1冯纯伯2 (1．河海大学，2．东南大学) 本文研究时滞神经网络的指数周期性。首先在没有假设激活函数有界和可微的条件下，给出了 可保证一类连续时间时滞神经网络指数周期解存在且唯一的充分条件；最后给出了连续时间神经网 络模型的离散化模型，并进而研究了离散时间神经网络模型的指数周期性，证明了离散时间神经网 络模型继承了其对应的连续时间神经网络模型的指数周期性，而不需要对离散步长附加任何条件。 所得结果为神经网络的工程实践和计算机仿真提供了方便。 一、引言 时滞神经网络较强的动态图像处理能力及其在信息处理方面的应用，使得时滞神经网络的稳 定性业已成为当前研究的一个热点n侧．而众所周知，平衡点可以视作是具有任意周期的周期解； 另外，神经网络周期解在学习系统中有重要的应用。在这个意义上，分析时滞神经网络的周期性 显得尤为重要。 现有的神经网络收敛性结果大都是在激活函数具有某些特殊性质下得到的．这些性质一般包 含一阶可微和有界．在早期的研究中随嗡矧，激活函数通常为S型的．然而，现有的研究表明仅考虑 有界和可微的激活函数，也并不能满足实际问题的需要n’1毛刎．因此推广可使用的激活函数的范围， 在更广泛意义下(不要求有界和可微)讨论神经网络的收敛性成为现实的需要．对于有界激活函数， 根据不动点原理，平衡点总是存在的；但对于无界的激活函数，可能没有平衡点．另外，在实际 设计中往往要求提高网络趋于平衡状态的收敛速度．对应于此设计要求，神经网络收敛性分析的 目的则是讨论在何种条件下，网络具有全局指数收敛性． 另一方面，考虑到实际应用和计算机仿真的需要，寻求连续时间神经系统的离散模拟是非常 必要的。传统的离散或差分的方法大都是基-3：Euler，Runge—Kutta等方法帆铷。 但显然这些离散 时间模拟不能完全保持连续时间神经网络原有的稳定性。存在不稳定的可能。通常，理论研究一 直忽视或回避神经网络状态更新增益因子或算法步长的选取问题。这个问题又是工程实践和计算 机仿真中必须解决的问题：因为实现神经网络的差分方程存在算法步长的上界，超过这个上界， 算法就不收敛。理论上的研究不能只局限于纯数学的叙述和证明，计算机仿真也同样是说明神经 2ll 网络的有效手段，并且能帮助我们进一步思考，发现问题。但如果步长选取不当，可能造成系统 本来是稳定，仿真的结果却是不稳定的。实际中人们往往凭直觉或经验用试错法选取步长。这样 选取步长缺乏理论指导，选定的步长没有多大实际意义。 因而，如何选取步长，使离散时间神经 系统可以保持连续时间神经系统的某些动态品质，一直是神经网络理论界和工程界共同关心的问 题。 本章研究时滞神经网络的指数周期性。在没有假设激活函数有界和可微的条件下，给出了可 保证一类连续时间时滞神经网络指数周期解存在且唯一的充分条件，利用文献[27，28]提出的半差 分技术，给出了连续时间神经网络模型的离散化模型，并进而研究了离散时间神经网络模型的指 数周期性，证明了离散时间神经网络模型继承了其对应的连续时间神经网络模型的指数周期性， 而不需要对离散步长附加任何条件。 二、问题的提出 考虑以下泛函微分方程描述的连续时间时滞神经网络 鳓=q五④+∑嘞毋％@)+∑岛毋吒p一弓))+五@，tO j=l ，-l 而(f)=咖(f)，一f≤fs0，f=1,2，人，力 其中X=(xl，X2，K，％)r∈R”，o≤一≤f，j=l，2，K，％为第，个神经单元的传输时滞， 爿=(％)～∈R朋一，B=鳓)～∈R职“是连接矩阵， 哟娟(，)正(f)K‘研∈R”是具缈周期的周期输 入向量函数，即，存在常数∞0使得，，(t+co)=，。(f)O=1,2，人，一)对于t≥0成立。该神经网络模型 表明神经元在任意时刻的状态不仅受其他神经元输出的影响，而且也受其他神经元在该时刻以前 的输出影响。荆=暖“)，＆)K，晶(砀)厂：R”专R”是向量值激活函数。另外，我们假定神 经系统的激活函数g∞是R”上的全局李普希兹连续函数，即存在李普希兹常数三，，J∈{1,2，人，吣 使得对于g，：R—R有l髟(材)一旬(，)I厶，Vu，V ER成立．容易看出g(工)可能是无界和不可微的．显 然(1)可以看作是现今常用的几类神经网络的同意模型，在文献[121]里，我们说明了几种常用的 神经网络模型可作为(1)式的特殊情形。 作为神经系统(1)的特例，带常数输入，=(，。，，：，K，，．)7∈R“的时滞神经系统近来引起研究者 广泛关注∞“勰。561。具常数输入的时滞神经网络可由以下泛函微分方程描述 鳓：-4玉(，)+厶岛钙(，))+孰勺钙(f一弓))+‘，fo (2) j吐 j萄 212 x』(f)=办(f)，—fsts0，f=1,2，A，，l’ 记石。(口)=