matlab神经网络应用设计12解读.pptxVIP

12 遗传神经网络 本章要点遗传算法的概念遗传算法优化神经网络的过程遗传神经网络设计的基本方法及设计实例12.1 遗传算法的概念 遗传算法(Genetic Algorithm, GA)是一种基于自然选择和基因遗传学原理的优化搜索方法。它将“优胜劣态，适者生存”的生物进化原理引入待优化参数形成的编码串群体中，按照一定的适配值函数及一系列遗传操作对各个体进行筛选，从而使适配值高的个体被保留下来，组成新的群体，新群体包含上一代的大量信息，并且引入了新的优于上一代的个体。这样周而复始，群体中各个体的适应度不断提高，直至满足一定的条件为止。 基本遗传算法大都包含如下四个操作： 编码、选择、交叉和变异。12.2 遗传算法优化神经网络遗传算法编码 1. 网络拓扑结构编码 （１）二进制编码 网络拓扑结构的二进制编码图： 码串共分为3个部分，码串 表示隐含层数，其中， 的值为1或0， ，码串表示第一层隐含层 12.2 遗传算法优化神经网络 节点数，码串表示第二层隐含层节点数，有 如下计算关系： 其中， 表示隐含层节点数编码的长度， 其值视具体问题而定。12.2 遗传算法优化神经网络（２）整数编码 整数编码就是将隐含层数编码 ，隐含层节点数编码 、 分别用某一范围内的整数来表示。也就是说 取整数值1或2，整数 、 的取值范围视具体问题而定。 GA优化NN结构的算法步骤如下： 1）设定网络隐含层数，以及每层节点数的范围，将隐含层个数、第一层、第二层等的节点数采用实数分别进行编码，随机产生 个这样编码的染色体。将 个染色体分别解码成相应的网络； 12.2 遗传算法优化神经网络2）利用多种不同的初始连接权值分别对每个网络进行训练；?3）计算在每个对应码链下神经网络的误差函数,利用误差函数或其他策略(如网络的泛化能力或结构复杂度)确定每个个体的适应度函数；?4）选择若干适应度函数值最大的个体构成父本；??5）利用交叉,变异等遗传操作算子对当前一代群体进行处理,产生新一代群体；?6）重复上述2）-5）步骤,直到群体中的某个个体(对应一个网络结构)能满足要求为止。? 12.2 遗传算法优化神经网络2. 网络参数编码 以BP神经网络为例。设其隐含层传递函数为Sigmoid函数： 。则 为形状参数， 设 分别表示第一层与第二层，第二层与第三层，第三层与第四层节点的连接权值，设 分别为隐含层第一层和第二层节点以及输出层节点的阈值。12.2 遗传算法优化神经网络（１）二进制编码网络参数的二进制编码图： 12.2 遗传算法优化神经网络（２）实数编码 网络参数的实数编码图：12.2 遗传算法优化神经网络实数编码GA优化NN结构和参数的算法步骤如下:? 1）给定网络的输入、输出样本集； ２）对网络的参数进行编码构成染色体； ３）选择遗传操作，选择，交叉和变异及其运行参数； ４）设定种群规模并随机产生个染色体； ５）由输入样本经网络传输产生对应于个染色体的网络输出； ６）根据选择的适应度函数计算方式来计算每个染色体的适应度； ７）依据适应度在遗传空间进行选择操作； ８）进行交叉、变异操作产生新一代群体； ９）返回步骤5），直到满足性能要求，最后获得网络的参数。?12.2 遗传算法优化神经网络遗传操作 在各种选择方法中除了排挤方法以外，其它选择方法对于实数编码GA都是适用的。如适应度比例方法、最佳个体保存方法等。实数编码GA通常采用算术交叉法。变异方式可根据所解决问题的特点进行合理选择。适应度函数 目标函数可选为：适应度函数形式： ：期望输出 ：网络当前输出 12.3 遗传神经网络应用设计 遗传神经网络设计的基本方法 当利用NN解决某一问题时，首先要根据该问题的特点，选择适合的NN模型。确定好使用的网络模型后，接下来就要进行网络的设计。其设计部分主要包括：确定网络的拓扑结构、网络的连接权值及阈值等。利用GA 可以搜索到以上问题的最优解。 遗传神经网络应用设计实例 设计一个遗传BP网络，来逼近非线性函数。函数的输入输出为：P=[-1:.05:1]，T=sin(pi * P)。12.3 遗传神经网络应用设计画出函数曲线：figure(1);P=[-1:.05:1];T=sin(pi* P);plot(P,T); %画出函数曲线12.3 遗传神经网络应用设计（１）首先要利用GA优化该BP网络的拓扑结构，采用二进制编码，Matlab代码如下：clc;clear all;tic %计算程序运行时间，和toc连用，ti