基于遗传算法的优化BP神经网络算法研究.docVIP

基于遗传算法的优化BP神经网络算法研究 　　【摘 要】论文结合遗传算法和BP神经网络的有关概念，对BP神经网络算法的优化进行了研究，同时结合实例对算法的有效性进行了验证。 　　【Abstract】Based on the concepts of genetic algorithm and BP neural network，the paper studies the optimization of BP neural network algorithm， and the effectiveness of the algorithm is verified by an example. 　　【关键词】遗传算法；BP神经网络；优化算法 　　【Keywords】genetic algorithm； BP neural network； algorithm optimization 　　【中图分类号】TPl83 【文献标志码】A 【文章编号】1673-106904-0135-02 　　1 引言 　　神经网络是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型，凭借着复杂的系统结构，通过对系统内部节点连接关系的调节，实现对信息的高效处理。作为技术最为成熟的神经网络模拟，BP神经网络具有良好的自学习、自适应以及泛化能力，在许多领域中都有着广泛的应用。而针对BP神经网络在应用环节存在的问题，需要采取相应的优化算法，提升神经网络的收敛速度和?理能力。 　　2 遗传算法与BP神经网络 　　遗传算法遵循的是生物界中适者生存的法则，其基本原理，是指将问题参数进行编码，形成染色体，通过迭代的方式，运用选择、变异、交叉等运算，对种群中染色体的信息进行交换，继而形成能够满足优化目标的染色体。 　　BP神经网络最初产生于1986年，属于一种依照误差逆传播算法训练的多层前馈网络，也是当前技术条件下应用最为广泛的神经网络模型之一，其可以对输入-输出模式的映射关系进行学习和存储，同时不需要对能够揭示这些映射关系的方程进行描述。神经网络具备自适应和自组织能力，在进行学习和训练的过程中，可以通过改变突触权重值的方式，更好地适应周边环境的变化。在同一个神经网络中，如果内容不同，学习方式不同，则会产生不同的功能。人工神经网络从本质上看，更加接近具备自主学习能力的系统，可以通过不断的学习，超出最初设计的知识水平。在人工神经网络中，比较常见的学习方法有两种，一是有监督的学习，可以结合标准样本，进行分类或者模仿，二是无监督的学习，在制定相应的学习规则后，系统会根据自身所处环境，进行学习内容的分析和选择，更加接近人脑的功能特点。 　　3 基于遗传算法的优化BP神经网络算法 　　3.1 算法基本原理 　　BP算法。BP神经网络算法主要包括了数据流的前向计算和误差信号的反向传播两个方面的内容，结合三层BP神经网络的拓扑结构，假定x为网络输入，y为结果输出，当处于正向传播过程时，数据的传输为输入层→隐层→输出层，每一层神经元的状态仅仅会影响下一层神经元，而如果输出层无法获得期望输出，则会自动转向误差信号的反向传播流程。在BP神经网络中，网络的训练实际上是对阈值和权值进行调整的过程，当网络误差缩小到设定值，或者训练步数达到设定步数时，会自动停止训练。 　　遗传算法。遗传算法可以从代表问题可能潜在解集的种群开始，种群中的每一个染色体都带有相应的特征，染色体可以看作若干基因的集合，为了便于分析，需要做好编码，完成从表现型到基因型的映射。在演化过程中，依照问题域中存在的个体的适应度，进行个体的挑选和交叉，然后变异出新的解集种群。选择末代种群中的最优个体进行解码，就可以得到问题的近似最优解。 　　3.2 优化BP算法 　　BP神经网络算法具有极强的局部寻优能力，但是容易陷入局部极小的问题，遗传算法具有良好的全局优化性和自适应性，但是局部寻优能力不足。对此，可以将遗传算法与BP算法结合起来，实现对于网络拓扑结构和网络权值、网络阈值的优化。 　　权值优化。在传统的BP网络中，连接权值的学习算法容易陷入局部极小，无法得到全局最优。对此，可以引入遗传算法代替传统的学习方法，对神经网络的权值进行优化。在这个过程中，需要解决几个比较关键的问题，一是编码方案，可供选择的权值编码方式包括实数编码和二级制编码，前者是以实数表示权值，非常直观，不过需要对遗传算子进行重新设计，后者是利用0，1字符串表示权值；二是适应度函数，引入遗传算法后，网络的机构以确定，在这种情况下，网络的误差越大，适应度越小；三是进化过程，主要是对选择、交叉、变异算子的选择，如果必要，也可以重新设计；四是混合训练神经网络，遗传算法能够在大规模、复杂性的空间中实现可靠搜索，而且不需要有关误差函数梯