32 基于遗算法的神经网络优化方法.pptVIP

概述 BP算法是人工神经网络中应用最广泛的算法，但是存在着一些缺陷： 一是学习收敛速度太慢； 二是不能保证收敛到全局最小点； 三是网络结构不易确定。 遗传算法应用于神经网络 优化人工神经网络(ANN)的结构， 学习神经网络的权值，也就是用遗传算法取代一些传统的学习算法（主要是梯度下降算法）。 拟合函数 本案例拟合的非线性函数为 本案例中,由于拟合非线性函数有2个输入参数、1个输出参数,所以设置的BP神经网络结构为2—5—1,即输入层有2个节点,隐含层有5个节点,输出层有1个节点,共有2×5+5×1=15个权值,5+1=6个阈值,所以遗传算法个体编码长度为16+5=21。 从非线性函数中随机得到2000组输入输出数据,从中随机选择1900组作为训练数据,用于网络训练,100组作为测试数据。把训练数据预测误差绝对值和作为个体适应度值,个体适应度值越小,该个体越优。 遗传算法实现 1.种群初始化 2.计算适应度 3.选择操作 4.交叉操作 5.变异操作 6.下一次跌代 1.种群初始化 个体编码方法为实数编码,每个个体均为一个实数串,由输入层与隐含层连接权值、隐含层阈值、隐含层与输出层连接权值以及输出层阈值4部分组成。个体包含了神经网络全部权值和阈值,在网络结构已知的情况下,就可以构成一个结构、权值、阈值确定的神经网络。 2.适应度函数 根据个体得到BP神经网络的初始权值和阈值