基于序列输入的神经网络模型算法及应用.pdfVIP

基于序列输入的神经网络模型算法及应用

肖红;李盼池

【摘要】Toenhancetheapproximationcapabilityofneuralnetworks,a

sequenceinput-basedneuralnetworksmodel,whoseinputofeach

dimensionisadiscretesequence,isproposed.Thismodelconcludesthree

layers,inwhichthehiddenlayerconsistsofsequenceneurons,andthe

outputlayerconsistsofcommonneurons.Theinputsaremulti-

dimensionaldiscretesequences,andtheoutputsarecommonrealvalue

vectors.Thediscretevaluesininputsequenceareinturnweightedand

mapped,andthenthesemappingresultsareweightedandmappedfor

theoutputofsequenceneuronsinhiddenlayer,thenetworksoutputsare

obtained.ThelearningalgorithmisdesignedbyemployingtheLevenberg-

Marquardtalgo-rithm.Thesimulationresultsshowthat,whenthenumber

oftheinputnodesisrelativelyclosetothelengthofthesequence,the

proposedmodelisobviouslysuperiortothecommonartificialneural

networks.%为提高神经网络的逼近能力，提出一种基于序列输入的神经网络模型

及算法。模型隐层为序列神经元，输出层为普通神经元。输入为多维离散序列，输

出为普通实值向量。先将各维离散输入序列值按序逐点加权映射，再将这些映射结

果加权聚合之后映射为隐层序列神经元的输出，最后计算网络输出。采用

Levenberg-Marquardt算法设计了该模型学习算法。仿真结果表明，当输入节点

和序列长度比较接近时，模型的逼近能力明显优于普通神经网络。

【期刊名称】《计算机工程与应用》

【年(卷),期】2014(000)016

【总页数】5页(P62-66)

【关键词】神经网络;序列神经元;序列神经网络;算法设计

【作者】肖红;李盼池

【作者单位】东北石油大学计算机与信息技术学院，黑龙江大庆163318;东北石

油大学计算机与信息技术学院，黑龙江大庆163318

【正文语种】中文

【中图分类】TP18

在实际生物神经系统的信息处理过程中，记忆和输出不仅依赖于每种输入信息的空

间聚合，而且也依赖于输入在时间上的累积效果[1]。传统人工神经网络

（ArtificialNeuralNetworks，ANN）较好地模拟了生物神经元的空间聚合、激

励、阈值等特性，但缺乏对时间延迟以及时间累积效果的描述。反映在实际应用中，

ANN一次只能接收一个几何点式的向量输入，而不能直接接收体现时间累积效果

的矩阵式输入。对于一个矩阵式的序列样本，ANN通常将其中每个列向量看作单

个样本分多次接收，这种方法由于不能充分利用序列的整体特征，因此逼近能力受

到影响。

在很多实际问题中，系统的输入通常为一个多维的离散序列，在数学上可用一个矩

阵表示，例如股票的波动过程、化学反应中溶液浓度的变化过程等。用神经网络方

法研究离散序列输入系统的建模和仿真逐渐成为智能计算领域的研究热点。目前的

处理方法主要集中在与其他方法的融合和对网络模型的改进方面。例如，文献[2-3]

利用滤波器能够消除数据噪声的优点，将前馈神经网络与非线性滤波方法相结合，

分别采用扩展卡尔曼滤波和无迹卡尔曼滤波训练网络，并比较了二者的性能。文献

[4]提出了改进的小波神经网络模型，通过在隐含层使用不同类型的小波函数作为

激励函数，较大程度地提高了网络的预测能力。文献[5]通过在标