多层前馈人工神经网络结构研究.pdfVIP

维普资讯 2OO4年 3月 湖南师范大学 自然科学学报 Vo1．27 No．1 第 卷 第 1期 JourNatScieHunanNorm Univ Mar．，20O4 多层前馈人工神经网络结构研究 刘耦耕，李圣清，肖强晖 (株洲工学院电气系，中国株洲 412008) 摘 要 ：研究表明，由多层 FNN的BP算法误差函数构成的非线性方程组的独立方程个数和 FNN的待求未知 变量的个数应该相等，该方程组才能有唯一组解 ．由此导出网络结构方程式，进而导出隐层层数判别式和每层神经 元个数判别式．依据 lm 定理，由该判别式得出求解FNN隐层层数和每个隐层神经元个数的具体算法．计算 机仿真结果表明该方法简明实用 ． 关键词：前馈人工神经网络 ；多层人工神经网络 ；网络结构；神经元个数 中图分类号：TP13 文献标识码：A 文章编号：1000-2537(2004)01．-(X)26-05 ResearchonAStructureofMulti—LayerForwardArtificialNeuralNetwork LOUOu-geng，12Sheng-qing，XAOQ／ang-hu／ (1．Depa】血咖 ofElectricalEn ∞erjl1g，ZhuzhouInstituteofTechnology，Zhu~u421008，China) Abs d：Iftheequation’Squantitiesofnonlicarequationteam constitutedbyerrorfunctionofBP t}lm of multi—Layerfeed—forwardneuralnetwork(FNN)shouldeqIlaltotheoneofunknowi1variablesofFNN，thesolutionofthe equationsisunique．31aenetworkstlMctureequationisthenproposed．Accordingtotheequation，discriminantsofquanti一 哆ofhiddenla)rsandANNeachlayeraregiven．DependingonKolmogorovtheorem，aparticular rit}lm ofdetermin— iI quantityofhiddenhyer~andANN eachlayerisdrawnfrom thedlscriminant．31ae thm thatisachievedbyacom— purerprogram isobviousandpractica1． Keywords：FNN；multi—layerartificialneuralnetwork；networkstructure；quantitiesofperceptrons 由于前馈人工神经网络 ( )采用 BP算法，具有良好的非线性逼近性能，其应用已受到人们越来越多 的关注．在 的设计和实际应用中，人们首先遇到的一个重要问题是 ，针对具体的实际问题 ，应如何确定 FNN的层数以及每层需要的神经元个数 ． 虽然 Kolmogorov定理指出，任何一个连续函数都可以用一个三层前馈神经网络来精确实现 ．然而，实验 证明，对中等复杂程度的非线性函数。用四层神经网络来模拟要比用三层神经网络来模拟所需要的神经元个 数少得多，收敛速度也快得多；而对非常复杂的非线性函数 ，三层网络的收敛效果和收敛速度又明显优于四 层网络．因此，Kolmogomv定理只提出了三层 能模拟任何连续函数，但未必最优 ，遇到需要大量甚至接近 无穷个神经元的情况使问题的实际解决只能停 留在理论上．这里不得不指出，这是人工神经网络应用中的一 个非常棘手的问题：如何选择 FN