第四章用遗传算法设计神经网络探索.doc

第四章 用遗传算法设计神经网络 4.1概述 自1986年Rumelhart和Parker发明误差反向传播算法（BP算法）以来，人工神经网络的理论和应用研究发展十分迅速，其中，前馈型网络（又称BP网）因其结构简单和非线性映射能力而具有广泛的工程应用前景，如模式识别、过程控制、故障诊断等，同时，BP网在人工智能研究中又被作为机器学习知识获取的重要工具。Kolmogorov已经证明了多层前馈神经网络能够解决可以表示成从某个输入空间到某个输出空间的连续映射的任意问题。但这只是一个存在性定理，它没有给出关于如何构造网络的提示，网络的构造是个非常重要的问题。如何优化BP网络的结构目前尚无理论指导，在应用过程中往往指定过多的网络节点数和层数，期望通过BP算法自动地裁减多余部分，而实际情况并非如此。由于BP算法在冗余结构下会产生“过学习”现象，使网络的训练学习了样本模式的确切特征而不是样本集的一般特征，缺乏外推能力而难以实际应用[18]；基于数值实验的启发式设计也很困难，这种启发式方法有两个主要缺点：第一，可能的神经网络结构空间非常大，甚至对小型应用问题，其中的大部分结构也仍然没有探测；第二，构成一个好的结构的因素密切依赖于应用，既要考虑需要求解的问题，又要考虑对神经网络解的限制，但目前还没有一个好的技术或方法做到这一点，网络结构