幂激励和正交基经网络的权值直接确定方法.pdf

摘要 论文题目：幂激励和正交基神经网络的权值直接确定方法 专 业：通信与信息系统 硕士生：李巍 指导教师：张雨浓教授 摘要 Neural 人工神经网络(ArtificialNetwork，ANN，简称神经网络)是由大量 神经元相互连接而构成的系统，以其并行处理、分布式存储、自适应自组织自学 习和高度容错能力等特性，在诸多学科和领域取得了广泛的应用。作为一种重要 和典型的神经网络模型，BP神经网络存在着诸如收敛速度慢、易陷入局部极小 点、隐神经元数难确定、学习率难选取等各种不确定性的本质弱点。人们提出了 许多改进算法，但似乎仍然无法从理论根本上解决这些长久以来存在的弱点。 本文根据数值逼近和多项式插值理论，从网络结构和激励函数入手，分别以 一组阶次渐增的幂函数和多种正交多项式作为隐层神经元的激励函数，构造了一 类可统一描述的新型前向神经网络模型。基于这类网络模型，探讨了其实现网络 逼近的可行性和有效性。类似于误差回传(BP)的经典做法，推导出了其权值 修正的迭代公式(包括标量形式和矩阵形式)。区别于反复迭代训练而达到最优 权值的标准做法，本文基于矩阵伪逆的思想提出了一种权值直接确定的方法。该 新方法可以一步直接计算出网络的最优权值，从而避免了传统神经网络算法冗长 的迭代学习过程。 计算机仿真结果显示，本文所构造的新型前向神经网络模型和基于此类模型 提出的权值直接确定方法，具有优良的函数逼近能力，学习速度快、仿真与预测 精度高。并且其网络结构简单、易于硬件实现。 值得指出的是，在此权值直接确定法的基础上，本文还进一步探索出一种确 定神经网络最优结构的方法。这种网络结构自确定法可以快速有效地计算出神经 网络满足性能要求的最优隐神经元数。 关键词：幂函数，正交多项式，激励函数，权值直接确定，伪逆 Abstract Neural Title：Power-Activationand Networkswiththeir Orthogonal-Basis Weights Determined Directly andInformation Major：CommunicationSystem Name：LiWei Supervisor：Professor ZhangYunong Abstract ArtificialNeural ofa numberofneurons Network(ANN)consistslarge linking and has been usedin science togetheroperatingsimultaneously．ANNwidely many and fieldsduetoitsremarkablefeaturessuchas engineering androbustness．Aswe neural storage，adaptiveself-learningcapability know,BP networkisoneofthemost and t