Hermite前向神经网络隐节点数目自动确定.pdfVIP

浙 江 大 学 学 报 (工学版) 第 44卷第 2期 JournalofZhejiangUniversity (EngineeringScience) Vo1．44NO．2 Feb．2010 2O10年 2月 DOI：10．3785／j．issn．1008—973X．2010．02．011 Hermite前 向神经 网络隐节点数 目自动确定 张雨浓 ，肖秀春 ，陈扬文 ，邹阿金 (1．中山大学 电子与通信工程系 ，广东 广州 510275；2．中山大学 软件学院，广东 广州 510275) 摘 要 ：从函数逼近论 出发 ，构造 了一类 以Hermite正交基为激励 函数 的前 向神经 网络．在保证网络逼近能力的前 提下，令其输入层至隐层的权值和各神经元 阈值分别为 1和 0，导 出了基于伪逆 的隐层至输 出层最优权值 的直接计 算公式．并针对 Hermite前 向神经 网络 ，提出一种依照学习精度 要求 而逐次递 增型 的隐节点数 自动 、快速 、准确 的 确定算法．对多个 目标函数的计算机仿真和预测结果表 明，该神经网络权值直接确定方法和隐节点数 自动确定算 法 能很快地找到最优 的隐节点数及其对应 的最优权值 ，且 网络具有较好 的预测能力． 关键词 ：Hermite神经 网络 ；隐节点数 ；权值直接确定 ；伪逆 中图分类号 ：TP241 文献标志码 ：A 文章编号 ：1008—973X(2010)02—271—05 Numberdeterm ination ofhidden—-layernodesforHermite feed—forward neuralnetwork ZHANGYu—nong，XIAOXiu—chun，CHEN Yang—wen ，ZOU A—jin (1．DepartmentofElectronicsandCommunicationEngineering，SunYat—SenUniversity，Guangzhou510275，China； 2．SchoolofSoftzuare，SunYat—SenUniversity，Guangzhou510275，China) Abstract：A new feed—forwardneuralnetworkwasconstructedbyusingHermiteorthogonalpolynomialas activationfunction，whichoriginatedfrom thefunction—approximationtheory．A llneuralbiasandweights from inputtohidden layerwererespectivelyfixedtobe0and1withapproximationcapabilityguaranteed， andapseudo——inversebaseddirect——determ inationmethod wasderived fortheoptimalneuralweightsfrom hiddenlayertooutputlayer．Then an order—increasing automatic—determination algorithm waspresented fortheoptimalnumberofhidden—layerneuronsaccordingtotheprecisionrequirement．Computersimula— tionandpredictionresultsbasedonmultipletarget——functionsshow thattheproposedalgorithmscanquick—— lyobtaintheoptimalnumberand weightsofhiddenlayerneuronsand havearelatively good prediction cap