基于遗传BP算法的神经网络及其在模式识别中的应用.pdfVIP

第 2 1 卷 第 1 期 长 　沙 　交 　通 　学 　院　学 　报 Vol . 2 1 　No . 1 2005 年 　3 月 J OU RNAL OF CHAN GSHA COMMUN ICA TION S UN IV ERSI T Y Mar . 　2005 　　文章编号 :1000 - 9779 (2005) 0 1 - 0053 - 04 基于遗传 BP 算法的神经网络及其 在模式识别中的应用 王英健 , 戎丽霞 (长沙理工大学 , 湖南 长沙 　4 10076) 摘 　要 : 介绍了传统的遗传算法与 B P 算法 ,并分析了它们的不足 。提出了一种将遗传算法 和 B P 算法相结合的遗传 B P 算法 ,在遗传算法的群体设计中采用小生境技术 ,防止优秀个体 早期退化 。实验证明了此方法的正确性和有效性 。 关键词 : B P 算法 ; 遗传算法 ; 小生境技术 ; 神经网络 ; 模式识别 中图分类号 : TP13 　　　文献标识码 : A 　　 　　神经网络是近年来人工智能的一个前沿研究领域 ,应用日趋广泛 ,在语音识别 、模式识别 、图像处理 和工业控制等领域颇有成效 。其中应用最广泛的是 B P 网络[ 1 ] 。但有效地确定神经网络的参数和结 构 ,一直是神经网络研究的一个重点也是一个难点 。由于传统的神经网络训练算法 ———B P 算法本质上 是一种局部寻优的方法 ,存在学习速度慢 、容易陷入局部最优解等弊端 ,故需要找到一种更有效的训练 方法 。遗传算法是一种随机的优化与搜索方法 ,算法搜索轨道有多条 ,具有 良好的并行性 、全局优化性 和稳健性[2 ,3 ] ,但其局部寻优能力差 ,不易获得全局最优解 。基于此 ,本文将两种算法有机地结合起来 , 提出了遗传 B P 算法 ,并在遗传算法的群体设计中采用小生境技术 。将该算法应用于对格雷码的模式 识别实例中 ,实验结果证明它比单纯的B P 算法和遗传算法收敛速度快 ,而且有更好的识别结果 。 1 　BP 算法和遗传算法及其不足 1. 1 　BP 算法 B P 算法由信息的正向传递与误差的反向传播两部分组成 。在正向传播过程中 ,输入信息从输入层 经隐含层逐层计算传向输出层 ,每一层神经元的输出作用于下一层神经元的输入 。如果在输出层没有 得到期望的输出 ,则计算输出层的误差变化值 ,然后转向反向传播 ,通过网络将误差信号沿原来的连接 通路反传回来修改神经元的权值直到达到期望 目标 。 随着应用的广泛 ,B P 网络存在的问题也日益显现出来 ,主要有以下几点 。 1) 收敛速度慢 。即使一个比较简单的问题 ,也需成百上千次的学习训练才能收敛 。 2) 容易陷入局部最优解 。B P 算法在数学上属非线性优化问题 , 网络输入输出间的非线性关系致 使网络的误差或能量函数是一个具有多极点的非线性空间 ,而 B P 算法一味追求的是网络误差或能量 函数的单调下降 ,也就是说 ,算法赋予网络的是只会“下坡”而不会“爬坡”的能力 。正因如此 ,常导致网 络落入局部最小点不能自拔 ,而达不到全局最小点 。所以,有人说它是一种急于求成的“贪心”算法 。 3) 网络的学习、记忆具有不稳定性 。一个训练结束的B P 网络 ,当给它提供新的记忆模式时 ,将使 已有的连接权值打乱 ,导致已记忆的学习模式的信息消失 ,要避免这种现象 ,就必须将原来的学习模式 连同新加入的学习模式一起重新进行训练 。 4) 网络结构的确定无理论指导 。网络隐层的层数及隐层单元数的选取完全凭经验确定 ,这往往使 收稿 日期 :2004 - 03 - 26 ( ) 作者简介 :王英健 1958 — ,男 ,长沙理工大学副教授. 　　　　　　　　　　　　　　长 　沙 　交 　通 　学 　院　学 　报 　　　　　　　　　　　第 2 1 卷 　 54 网络具有很大的冗余性 ,无形中也增加了网络的学习时间。 1 . 2 　遗传算法 遗传算法以生物进化过程为背景 ,模拟生物进化的步骤 ,将繁殖 、交差 、变异 、竞争和选择等概念引 入到算法中