过程神经元网络的若干理论问题.pdfVIP

2000年12月 堑!堂篁!!塑 兰些堕竺型堡量鱼竺竺 兰竺!：!些呈：!! 攀j{；恭．!．谶j羹 过程神经元网络的若干理论问题 何新贵1，梁久祯2 (1．北京系统工程研究所，北京100101；2．北京航空航天大学，北京100083) [摘要] 文章提出一种过程神经元模型，其输入为与时间有关的函数或过程，它是传统人工神经元模型在时 间域上的扩展。基于这种过程神经元模型，给出了一种仅含一个隐层的前馈型过程神经网络模型，即基展开过 程神经元网络模型。证明了相应的连续性定理，逼近定理，计算能力定理等。 [关键词] 过程神经元网络；函数逼近能力；计算能力；连续性 制的输入往往是依赖于时间的连续函数，控制信号 1 引言 的输出既依赖于空间的聚合(多输入)，又与时间 自从1943年McCulloch与Pitts提出第一个人的累积效应密切相关；在变分问题中，泛函的定义 工神经元网络MP模型…，人工神经元网络的研究 域一般可为一个与时间有关的过程区间；依赖于时 已走过了半个多世纪的坎坷道路。这期间人们曾提 间的多因素优化问题也都可以归结为具有过程输入 出了几十种较有影响力的神经元网络模型，如Per— 的情形。具有过程式输入的神经元网络是人工神经 元网络在时间域上的扩展，是更一般化的人工神经 ceptron(感知机)汜J，Adaline自适应线性元件旧J， J，Anderson的BSB模元网络模型。因此，研究过程神经元网络模型的拓 Grossberg的自适应理论H5 型【6|，Fukushima的神经认知网络理论【7|，Koho—扑结构，函数逼近性质，学习算法等具有十分普遍 nen的自组织映射网络旧。等。特别是进入80年代，性的意义，在实际中对于求解与过程有关的众多问 Hopfield的反馈网络模型旧1以及多层BP网络¨0J的题有着很大的应用价值。 研究使人工神经元网络再次进入蓬勃发展阶段。之 2过程神经元 后，各种具有实用意义的神经元网络模型不断涌 现，如Boltzmannn机[11|，RBF[12|，CMAC[13]等。过程神经元由加权、聚合和激励三部分组成。 在上述人工神经元网络模型中，系统的输入均 单个过程神经元的结构图如图1所示。图1中，z． 为与时间无关的常量，即网络的输入是几何点式的 瞬时输入。然而，生物学研究表明u4|：在生物神 经元中突触的输出变化与输入脉冲的相对定时有 关，即依赖于持续一定时间的输入过程。在其它实 际问题中，大多数系统的输入亦往往是一个过程， 数等。 或一个依赖于时间的函数，而几何点式的瞬时输入 过程神经元的输入与输出之间的关系为 只能在理论上存在。过程式输入放宽了传统神经元 网络模型对输入的同步瞬时限制，使问题更为一般 这里“④”表示某种空间聚合运算，“o”表示某 化。很多应用可归结为此问题，如实时控制中，控 种时间(过程)聚合运算。例如 [收稿日期】 2000—06—29；修回日期2000—09—13 [作者简介】 何新贵(1938一)，男，浙江浦江县人，北京系统工程研究所研究员，博士生导师 万方数据 第12期 何新贵等：过程神经元网络的若干理论问题 4l 图1过程神经元 Procedureneuron Fig．1 (2) w(t)④X(t)=∑Wi(t)zi(t) H‘l rT