前馈神经网络的学习能力.pdfVIP

　2004 年 11 月 系统工程理论与实践 第 11 期　 文章编号:(2004) 前馈神经网络的学习能力 田大钢 (上海理工大学管理学院, 上海 200093) 摘要: 　使用新的分类子网, 改进了H uang 得到的一个关于两个隐层前馈型神经网络的学习能力的结 果, 证明了具有 2 (2 ) ( 12) + 2 个隐层节点的神经网络可以学会N 个不同的样本 同时, 新的讨论方法使 N 得结果对广泛的一类活化函数都适用, 而不只限于 sigmo id 活化函数 关键词: 　神经网络; 学习能力; 分类 中图分类号: 　 18　　　　　　　　文献标识码: 　 　　　 T P A L earn ing Capab ility of Feedfo rw ard N etw o rk s T IAN D a gang (Co llege of M anagem ent, U niversity of Shanghai Science and T echno logy, Shanghai 200093, Ch ina) Abstract: 　A new group ing subnetw o rk use to imp rove H uang’s significant result on the learning ( ) . capability of tw o h idden layer feedfo rw ard netw o rk s TL FN s is p resented T he result that 2 (2 ) ( 12) + 2 N feedfo rw ard netw rok s w ith N h idden neurons can learn any distinct samp les w ith any . arbitrarily sm all erro r be obtained N ew m ethod ensures the result is valid no t only fo r the sigmo id , . function but fo r a w ide class of activation functions Key words: 　neural netw o rk s; learning capability; classification 1　引言 在多层前馈型网络的各种应用过程中, 选择一个什么样的网络结构总是令人不安的问题 这主要涉及 网络要几个隐层以及每个隐层应该有几个节点的问题 就逼近而言, 已经知道用具有一个隐层的三层网络 就可以逼近任何紧集上的连续映射, 增加一个隐层或更多的隐层的意义十分有限[ 1, 2 ] 但对于一个具体的 映射, 并不知道应该至少要用几个隐层节点, 网络才可以逼近给定的映射 更进一步, 实际应用中往往是用 有限