基于遗传算法的神经网络优化方法.pptxVIP

基于遗传算法的神经网络优化方法会计学概述第1页/共13页BP算法是人工神经网络中应用最广泛的算法，但是存在着一些缺陷：一是学习收敛速度太慢；二是不能保证收敛到全局最小点；三是网络结构不易确定。 BP算法优化后仍存在一定的问题网络结构确定初始连接权值选取阈值的选择遗传算法应用于神经网络优化人工神经网络(ANN)的结构，学习神经网络的权值，也就是用遗传算法取代一些传统的学习算法。 概述第2页/共13页遗传算法（Genetic Algorithm， GA）是模拟达尔文的遗传选择和自然淘汰的生物进化过程的计算模型。由美国密执根(Michigan)大学的教授于1975年首先提出。Hello,I’m John Holland 3.2.2 遗传算法简介第3页/共13页算法原理 首先将问题求解表示成基因型（如常用的二进制编码串），从中选取适应环境的个体，淘汰不好的个体，把保留下来的个体复制再生，通过交叉、变异等遗传算子产生新一染色体群。依据各种收敛条件，从新老群体中选出适应环境的个体，一代一代不断进步，最后收敛到适应环境个体上，求得问题最优解 第4页/共13页3.2.2 遗传算法简介生物遗传学概念与遗传算法中概念的对应关系 生物遗传学概念遗传算法中的作用适者生存在算法停止时，最优目标值的解有最大的可能被留住个体（individual）目标函数的解 染色体（chromosome）解的编码（向量）基因（gene）解中的每一分量的特征（或值）适应性（fitness）适应度函数群体（population）选定的一组解（其中解的个数为群体的规模）种群（reproduction）根据适应函数选取的一组解交配（crossover）按交配原则产生一组新解的过程变异（mutation）编码的某一分量发生变化的过程3.2.2 遗传算法简介第5页/共13页算法步骤1.随机产生一定数目的初始个体（染色体）这些随机产生的染色体组成一个种群，种群中的染色体数目称为种群的规模或大小（pop-size）。2.用评价函数来评价每个染色体的优劣 染色体对环境的适应程度（称为适应度），并用作以后遗传操作的依据。3.基于适应值的选择策略 从当前种群中选取一定的染色体作为新一代的染色体，染色体的适应度越高，其被选择的机会越大。4.对这个新生成的种群进行交叉（交配）操作、变异操作。变异操作的目的使种群中的个体具有多样性，防止陷入局部最优解，这样产生的染色体群（种群）称为后代。5.判断是否达到预定的迭代次数，是则结束，否则返回2进入下一轮迭代操作 GEN＝0结 束产生初始群体是是否满足停止准则指定结果以概率选择遗传算子否计算每个个体的适应度pcpmpr选择一个个体选择两个个体选择一个个体i＝0执行变异i＝i＋1否执行复制是GEN＝GEN＋1i＝N ？插入到新群体复制到新群体执行杂交GEN—当前代数 N—群体规模将两个子代串插入到新群体i＝i＋1第6页/共13页遗传算法的流程图 3.2.3 遗传算法工具箱 第7页/共13页编码和种群生成指令格式：Function[pop]=initializega(populationSize,variableBounds,evalFN,evalOps,options)参数说明：pop：随机生成的初始种群 populatoinSize：种群大小即种群中个体的数目variableBounds：表示变量边界的矩阵evalFN：适应度函数evalOps：传给适应度函数的参数options：选择编码形式：1为浮点编码,0为二进制编码3.2.3 遗传算法工具箱第8页/共13页进行遗传操作指令格式：function [x,endPop,bPop,traceInfo]=ga(bounds,evalFN,evalOps,startPop,opts, termFN,termOps,selectFN,selectOps,xOverFNs,xOverOps,mutFNs,mutOps)参数说明：（1）输出参数X：求得的最优解 endPop：得到的最终种群bPop：最优种群的搜索轨迹traceInfo：每代的最优值和均值矩阵 （2）输入参数Bounds：代表变量上下界的矩阵startPop：可以从初始化函数中得到的初始解矩阵evalFN：适应度函数termFN：终止函数的名称termOps：终止函数的参数selectFN：选择函数名selectOpts：选择参数xOverFNS：交叉函数名 xOverOps：交叉参数mutFNs：变异函数名mutOps：变异参数 3.2.4 用遗传算法优化神经网络权值的学习过程 第9页/共13页以中的BP网络为例，其遗传算法学习权值步骤如下1）初始化