多项式前向神经网络。.pdfVIP

维普资讯 Vo1．24 No3 重庆大学学报 (自然科学版) 弟24卷弟3期 JourmlofCho~qingu ve可(Naruralscie眦! !竺 Mav．2001 文章编号：1Ooo一582x(2001)03—0076—04 多项式前向神经网络。 谢 开 贵 ，柏 森 ，周 家 启 (t．重虎太学 电气工程学院电力系统研究所 ．重庆 400044；2 重庆逸信学院 一 系．重庆 ， 400035) 摘 要 ：提 出一种新型的前向神经网络模型—— 多项式神经网络 。该网络具有三层结构．隐层、输 出层神经元激 活函数分剐为 ：f(z)：矿 扣 践性函数 i网络 隐层 一输出层的权值采取最违下 降法学 习， 输八层一隐层的权值采用遗传算法进行学习；网络学习时．其误差函数单调递减，学习算法具有较好的 收敛性；该网络能逼近任意的连续函数。且具有较好的稳定性。应用实例表 明该网络的性能是优 良的。 关键词：多项式前 向神经网络；最速下降法；遗传算法；算法收敛性 ；逼近能力 中囤分娄号：TP18 文献标识码：A 在 人 工神 经 网络 (ANN，ArtificialNeural Net— 还导致其结果出现震荡现象，达不到训练的效果 。虽 work)的研究和应用中，人们 已提 出许多神经网络模 然许多学者对此进行了深入研究，采取变学习率 、加入 型lll2J，有前向网络 ，如：单层感知器、MP模型、Adline 动量因子等措施 [21，但具有普遍实用意义的可行的算 网络；反馈 网络，如：Hopfield网络 、BAM 网络、细胞神 法还是没有的。 经网络等；随机神经网络 ：基于遗传算法、进化规划、模 笔者针对前向网络难于学习的特点，给 出了一种 拟遇火算法的网络；自组织神经网络，如：ART网络、 新型的神经网络模型——多项式前向神经网络 (Poly— 自组织特征映射、CPN 网络等 。这些 网络模型 中，多 nomad FeedIorword Ar tificial Neural Network， 层前 向网络(MFNN，Muliti layerFeedfordwardNeu— PFANN)。在以下的内容 中分别讨论 网络的结构、学 ralNetwork)是其中最常用的形式，它为输入和输 出提 习算法、网络的非线性映射能力、网络 的稳定性等 内 供一种非线性关系，其应用大多是 以这一映射关系为 容 ，虽后还给出PFANN的几个应用实例。 基础 。 1 PFANN的学习算法 当ANN结构确定后，ANN 的训练便是一个非常 重要的阶段，一方面要考虑提高学习的速度 ，另一方面 PFAN N是一 由输入层、隐层、输 出层组成的三层 又要兼顾ANN的逼近能力等因素。由已知的输入输 前 向网络，与通常三层前向神经 网络的结构相同= 出数据对神经网络进行训练 ，实际上是一种解析的无 设 = (-z，z ，…， )， = ( ， ，…， )， 约束非线性寻优过程，但是 ，由于神经元函数的非线性 c =( ， ，…， )分别为第个 输入模式、实际输 特性，导致神经网络输入与输 出之间有高度 的非线性 出模式和理想输出模式 ，其 中 为输入模式分量数 (即 关系，所以，在一定的时间范围内寻出最优解往往是 困 输入层神经元个数)；79l为输出模式分量数 (即输 出层 难的。 神经元个数 )。该 网络输入层 映射函数为恒等函数 目前，对多层前 向网络训练算法