基于粒子群算法的神经网络学习方案设计及其在4-CBA建模中应用.pdfVIP

增刊 化 学 世 界 ·263· 基于粒子群算法的神经网络学习方案设计 及其在4-CBA建模中的应用 宁国忠，颜学峰．钱锋。． (华东理工大学信息科学与工程学院上海200237) 关键词：粒子群算法；神经网络；SRC准则；数据建模 多层前向型神经网络是目前过程控制中应用最 度啦移模型操作简单，避免了复杂的遗传操作，在 广泛的神经网络结构之一。典型的BP神经网络结 非线性函数优化、电压稳定性控制、动态目标优化等 构由输入层、中间层、输出层构成。在网络学习过程 实际问题取得了成功应用。由于该算法具有简单而 中，输入信息从输入层经隐含层逐层处理，最后传向 高效的特点，它问世后立刻引起了优化及与优化相 输出层，每一层神经元的状态只会影响下一层神经 关领域的学者们的关注。 元的状态。如果在输出层不能得到期望的输出值， 像其他的优化算法一样，粒子群算法在神经网 则转向反向传播，将输出的误差信号沿原来的连接 络中的应用主要有两个方面： 通路由输出层经隐含层逐层返回，并通过修改各层 (1)优化计算神经网络的参数； 神经元之间的连接权值，使误差函数达到最小。但 (2)确定网络的结构。 是由于BP算法的实质是梯度下降法，它只是利用 如文献[10]提出了基于连接结构优化的粒子 误差函数一阶梯度的信息确定下一步训练的方向， 群优化算法(svso)用于神经网络训练，该算法在训 因此收敛速度比较慢，容易陷入局部最小点。 练神经网络权值的同时优化其连接结构，删除冗余 传统的BP算法常用误差反传(BP)算法进行训连接，使神经网络获得与模式分类问题匹配的信息 练，其实质是使误差平方和最小的优化过程，经典的 处理能力。但是该算法的最大缺点是使得训练的效 方法是沿梯度下降方向搜索，简单而实用，但十分缓 率大大降低。文献[11]针对BP网络易陷入局部极 慢。为了加快搜索，提高网络的学习效率，还出现了 小、收敛速度慢的缺点，结合粒子群优化算法(vso) 一些以经典的优化算法如遗传算法、粒子群算法等 在全局搜索上的良好性能，提出了一种新的算法： 优化算法来训练BP网络的权值和阈值，或者来优 化网络的结构，以此来寻求最佳的BP网络。此外， 初始权值和阈值，然后用BP算法进行进一步训练， 不少研究者提出了许多修正初始权值的BP神经网 也取得了一定的效果，但是由于很难找到一个最佳 络改进算法，如江艳君…提出了采用复合法改变初 的网络结构也会使得训练的成功率不高。 始权值的BP算法，徐翔【21提出了采用最速下降法 针对这些问题，本文提出了一中新的神经网络 与共扼梯度法相结合的混合算法，文献[3、4]研究学习方案，两个阶段学习方案。在第一阶段运用 了基于GA—BP混合学习算法的神经网络，文献[5，PSO算法优化BP的网络结构，代替人来解决网罗 6]研究了混沌算法与BP神经网络相结合的混合算结构的选择和初始参数的设定称为神经网络结构辨 法，金飞虎o¨研究了将蚁群算法和神经网络相结合 识阶段。在第二阶段，运用PSO进一步快速的优化 的混合算法。 已经辨识好的网络的结构和初始参数，做初步的搜 和遗传算法一样，粒子群优化算法(Particle索，然后在已经初步优化好的网络结构上运用BP Swarm 算法进一步训练，这一阶段成为参数辨识阶段。通 Optimization)也是一类基于群智能的随机优 化算法，因受到鸟群的社会行为所得到的启发，由 过两个阶段的学习和训练，使得神经网络的复杂度