一种三层前向网络参数的解析计算方法.pdfVIP

维普资讯 第21卷 第4期 东北重型机械学院学报 VoI21 NO 4 l9g 年 l2月 Jouf~ lofNortheastHeavy M achineryinstitute Dec． 1997 一 种三层前向网络参数的解析计算方法 —．-—!型—重一—— 程学院昌张铁华 1lfI)J0 摘 要 介绍了用解析法计尊三层前向阿络参数的方法．绐出了一个三层前 向网络准确 记忆绐定样本所需隐层节点十数的充分条件 ．也可用解析法计算的参数作为 BP等算法 训 练初值 仿真结果说明这种 南法是有效的 分关粤类号0堕23业2 ．竺丝 兰’—兰壁 网 0 引言 前向网络以其极强的非线性映射能力被广泛地应用和深入研究，在ANN中占有非 常重要的地位 ．BP算法及其改进算法较为有效地解决了前向网络的学习能力 ．但由于 BP算法从数学上看是一个非线性优化问题，不可避免地存在有局部极小问题 同时算法 的收敛速度也非常缓慢”1．BP算法的改进方案也大都停留在对梯度下降法某些局部参 数的改善上，虽然在某些情况下表现出一定的优势．但不可避免地存在适用上的局限． Pao提出了一种称为函数链路 (简称FL)网络的单层网络 ，它是将原始输入模式进行 一 次非线性扩展后作为单层网络的输入，从而克服了此单层网络学习速度慢的缺陷 ．文 献 3【】在FL网络输入样本模式扩展完毕的基础上．引入了广义逆学习法和关联阵学习 法，避免了模式的重复提交，进一步提高了学习速度 ．但文献 2【】和 3【]的方法都要构 造一种函数扩展方案，以保证得到的正交函数彼此线性独立，当正交函数选取不当时． 训练将不能收敛 ， 对比FL网络和BP网络．有理 由认为BP网络中的隐层节点不但起到模式扩展的作 用，而且隐层节点的数目与样本要记忆的有用信息肯定存在着某种必然的联系 ．基于这 个前提．提出了一种三层前向网络参数的解析计算方法，同时也给出了一个三层前向网 络准确记忆给定样本所需隐层节点数目的充分条件，为前向网络的设计与应用提供了一 种新的途径 ． 1 解析法确定三层前向网络参数的方案 设一个三层前向网络．结构如图1．网络具有 Ⅳ个输入节点． 个输出节点， 个隐层节点， 丁^ 样本个数为P 为第 个输入节点的输入．71 为第 个输出节点的输出．F为第i个隐层节点 ． 的输出．V，为第 个输入节点到第i个隐层节点 的连接权值： 为第i个隐层节点到第 个输出 ， 节点的连接权值 ． 设隐层节点的输入为 0 对于第 ，个样本 ． 有 圈1 三层前向网结的结构 1997年9月 1日收到 维普资讯 第4期 侯培孱 等 一种三层前向阿络参数的解析计曾．方法 353 rV】】+ 12 +…+Vjv．Xv!=U ] I +‘ =u J ㈩ l + +．．．+ ：uJ ==LI[p≥Jp兰至z2二：…兰-v：v‘J]‘}==，Ll要0J]『l，，：：LI羔rr,．J]『l【 = = ==Ll[主2…：，．品；J‘]‘}，￡：：Llu兰u[uUu2；一…．u量c，嚣J]I 抻 薹引 式中 r= -[p]曼T2j囊~P]=：[鎏萎三] 维普资讯