基于遗传算法优化神经网络和其在故障诊断中的应用.pdfVIP

基于遗传算法优化神经网络及其在故障诊断中的应用 马平，王英敏，张建 华北电力大学控制科学与工程学院，河北保定 (071003) E-mail：wymxt@163.com 摘 要：针对BP 神经网络收敛速度慢、易陷入局部极小的缺点，将具有全局搜索能力的遗 传算法引入到神经网络的权值优化中。采用软件编程实现算法，把该算法应用到XOR 问题 求解中，显示出GA-BP 算法的优越性，并通过磨机故障诊断实例验证了算法的有效性。 关键词：神经网络；遗传算法；XOR 问题；故障诊断 中图分类号：TP18 ，TP206.3 文献标识码：A 随着神经网络理论研究与实际应用的不断深入，神经网络技术已渗透到各个领域。其中 最常用的是 BP 网络，但是它在权值和阈值优化时本身采用的是基于梯度的算法．因而易于 陷入局部极小点、收敛速度慢，因此很多研究人员提出了对 BP 算法的改进方案[2~5] 。而遗 传算法(GA) 的智能优化方法是一种并行的、全局的最优化方法 ，而且计算效率比较高，将 遗传算法与神经网络结合起来是很有意义的，不仅能发挥神经网络的泛化的映射能力，而且， 使神经网络具有很快的收敛性及较强的学习能力。遗传算法与神经网络结合主要有两种方 式：一是用于网络训练，即学习网络各层之间的连接权值；二是学习网络的拓扑结构[6] 。本 文采用第一种方式，并将建立的 GA-BP 网络用于故障诊断。 1. BP 神经网络基本原理 BP 神经网络(Back—Propagation Network)是一种无反馈的前向网络，由输入层、隐含层、 输出层构成。BP 网络的学习过程由信号的正向传播与误差的反向传播两个过程组成：如正 向传播输出的误差平方和达不到预期的精度，则沿误差的负梯度方向修正各层神经元的权值 和阈值。如此反复，直至网络全局误差平方和达到预期的精度。 由于BP 神经元的传输函数为非线性函数，所以其误差函数往往有多个极小点。若误差 曲面有两个极小点m 和 n,如果误差先到达局部极小点 m 点，则 m 点的梯度为 0，按 BP 算 法则无法继续调整权值和阈值，学习过程结束，但尚未达到全局极小点。另一种情况是学习 过程发生振荡，如图 1，误差曲线在 m 点和 n 点的梯度大小相同，但方向相反，如果第 k 次学习误差落在 m 点，而第 k+1 次学习又使误差 落在 n 点，那么按照 BP 算法的梯度下降法进行 权值和阈值调整，将在两点间重复进行，从而形 成振荡。BP 算法存在上述缺点：易陷入局部极小、 收敛速度慢和易引起振荡。因此，BP 网络需要进 一步的优化与改造，一般改进算法有：动量的梯 m n 度下降法、学习速率可变的梯度下降法和加入动 量项和学习效率的自适应调整和 L-M 算法和遗传 优化算法。GA 算法通过不断对空间进行搜索而不 同于梯度下降法或L-M 算法，调整局部空间的搜 索方向，而被认为能避免局部极值点。 图 1 误差曲线 -1- 2. 遗传算法 遗传算法(Genetic Algorithm,简称 GA)是 John ．H ．Holland 教授根据生物进化的模型提 出的一种优化算法，它吸取自然生物系统“适者生存，优胜劣汰” 的进化思想，从而能够提供 一个在复杂空间中进行鲁棒搜索的方法，为解决许多传统优化方法难以解决的问题提供了新 的途径。它与传统的算法不同，大多数古典的优化算法是基于一个单一的度量函数(或称评 估函数) 的梯度或较高次统计，以产生一个确定性的试验解序列;遗传算法不依赖于梯度信 息，而是通过模拟自然进化过程来搜索最优解(Optimal Solution )，它利用某种编码技术、作 用于称为染色体的数字串，模拟由这些串组成的群体的进化过程。遗传算法通过有组织的、 随机的信息交换来重新组合那