基于改进遗传算法BP神经网络自适应优化设计.pdfVIP

第30卷第4期 重庆大学学报(自然科学版) Vo1．30 No．4 2007年4月 JournalofChongqingUniversity(NoturolScienceEdition) Apr．2007 文章编号：1000-582X(2007)04-0091-06 基于改进遗传算法的BP神经网络 自适应优化设计 柴 毅，尹宏鹏，李大杰，张 可 (重庆大学 自动化学院，重庆 400030) 摘 要：BP(BackPropagation)神经网络在网络训练中存在着局部最优问题，其算法收敛过慢、局部 收敛不理想，影响其工作性能．针对以上不足以及传统神经网络设计规模庞大等问题，提 出了一种由 EGA(改进的遗传算法)确定网络拓扑结构和训练网络的方法，该方法通过实数编码、自适应多点变异 等操作有效地优化了网络拓扑结构和网络参数，从而有效缩小了网络规模和提高了BP网络训练的速 度以及收敛的有效性．最后结合了番茄常见病害诊断的实例说明了此方法的可行性． 关键词：改进遗传算法；BP神经网络结构；多点自适应变异；病害诊断 中图分类号：TP391 文献标志码 ：A BP型神经网络是一种多层前馈型网络，它是 目前 竞争的选择继承、多点交叉、多点 自适变异等操作，充 应用最广泛且使用最成熟的神经网络模型之一．通过 分结合遗传算法和BP神经网络的长处提出了一种使 深入研究发现 BP算法中存在两个主要问题：一是从 用遗传算法在全局解空间内对 BP神经网络拓扑结构 数学上看多层感知器算法是一个非线性优化问题 ，由 和网络参数进行 自适应的动态调整，从而获得网络的 于采用了传统的无约束最小化方法来实现误差函数的 最优设计的新方法．文章最后以番茄病害诊断系统为 极小化，因此不可避免地存在有局部极小问题；二是神 仿真实例，验证了该方法的有效性． 经网络的设计主要依据设计者的经验在大样本空间反 复实验来进行选取，尚无理论上的指导．因此在神经网 1 问题的提出 络的初始连接权以及网络结构的选择上具有很大的随 由于遗传算法的搜索不依赖梯度信息，也不需要 机性，很难选取具有全局性的初始点，因而网络求得全 求解函数可微，只需要求解适应度函数在约束条件下 局最优的可能性小． 可解．并且遗传算法具有全局搜索的特性 ，用遗传算法 遗传算法GA(GeneticAlgorithm)是基于生物进化 优化优化神经网络的连接权和网络结构，可以较好地 原理的一种具有鲁棒性的自适应优化方法 J．遗传算 克服BP神经网络的初始权值的随机性和网络结构确 法遵循通过基于问题样本适应度函数对初始群体选 定过程中所带来的网络振荡，以及网络极易陷入局部 择、交叉和变异操作，来指导学习和确定搜索的方向． 解问题，并且有效提高神经网络的泛化能力．因此，利 由于采用种群的方式组织搜索，所以它可以在全局解 用遗传算法全局性搜索的特点，寻找最为合适的网络 空间内的多个区域内寻求最优解，而且特别适合大规 连接权和网络结构的方法来改变BP算法依赖梯度信 模并行处理．所以遗传算法和BP网络的结合正好优 劣互补．文献[24]表明，遗传算法和神经网络的结合 息的指