最优化方法及应用郭科现代优化算法简介分析.pptVIP

第九章 现代优化算法简介 §9.1 模拟退火算法 §9.2 遗传算法 §9.3 禁忌搜索算法 §9.4 人工神经网络 (4) 释放准则 在禁忌搜索算法的迭代过程中，候选集中的全部对象或某一对象会被禁忌，但若解禁则其目标值将有非常大的下降情况．在这种情况下，为了达到全局的最优，我们会让一些禁忌对象重新可选，这种方法称为释放，相应的准则称为释放准则． (5) 记忆频率信思 在计算的过程中，记忆一些信息对解决问题是有利的．如一个最好的目标值出现的频率很高，则可推测现有参数的算法可能无法再得到更好的解，因为重复的次数过高，有可能出现多次循环．此时，可以记忆解集合、有序被禁对象组、目标值集合等的出现频率． (6) 终止规则 大体上有四种终止规则：①步数终止准则；②频率控制准则；③目标值变化控制准则；④目标值偏离程度准则． (7) 禁忌算法的缺陷 禁忌搜索对于初始解具有较强的依赖性．一个较好的初始解可使禁忌搜索在解空间中搜索到更好的解，而一个较差的初始解则会降低禁忌搜索的收敛速度．为此人们往往使用启发式算法来获得一个较好的初始解，以提高禁忌搜索的性能．禁忌搜索的另一缺陷是在搜索过程中初始解只能有一个，迭代一次，也只能是把一个解移动到另一个解． 人工神经网络（Artificial Neural Networks，简称ANN）是基于生物学的神经元网络的基本原理而建立的，实质上是模仿大脑的结构和功能，借助计算机处理大规模信息的一种信息处理系统． 如今人们对人工神经网络的研究正日趋成熟，人工神经网络已被广泛应用到函数逼近、模式识别、图像处理与计算机视觉，信号处理、时间序列，专家系统、动力系统、人工智能以及最优化等方面． 由Minsley和Papert提出的多层前向神经元网络（也称多层感和器）是目前最为常用的网络结构，它被广泛地应用到模式分类和函数逼近当中，已经证明含有任意多个隐层神经元的多层前向神经网络可以逼近任意的连续函数． 有时又会产生一定的相似性，正是有了交叉操作群体才保持着多样性，从而扩大了遗传算法的探索范围，加快了优化的收敛速度，需要注意的是，如果整个群体中只有一种符号串，交叉操作不会产生任何新的符号串，如何处理这种情况呢？我们可采用下面要介绍的突变操作来解决这个问题． ③变异（突变） 在生物的遗传和自然进化过程中，其细胞分裂复制环节可能因为某些偶然因素的影响而产生一些复制差错，这样就会导致生物内的某些范围发生变异，从而产生出新的染色体，表现出新的生物性状．虽然发生这种变异的可能性较小，但也是产生新物种的一个不可忽视的原因． 在遗传算法中则利用变异来模拟生物遗传和进货过程中的由变异而产生的新个体．它是对群体中个体的某些基因坐上的基因值作变动．对于二进制编码的个体，其编码字符集为（0，1），变异操作就是将个体在变异点上的基因值按照变异概率取反，即1变0，0变1．如个体A依概率产生变异点，分别在第3位和第8位，变异后产生新个体 ，A个体．对于实数编码（浮点数编码）个体，若在某些变异点处的基因值的取值范围为 ，变异操作就是用该范围内的一个随机数替换原变异位置上的基因值．对于符号编码个体，若其编码字符集为，变异操作就是用这个字符集中的一个随机指定的且与原基因值不相同的符号去替换变异点上的原有符号． 变异的个体以及变异的位置是依据概率来选择，个体变异的概率很小，一般为0.001~0.1，也就是说，对于1000个字符中有1~10个发生变异，个体变异主要起二个作用，一个是继续维持群体的多样性，防止出现未成熟收敛现象，保证算法过程不会产生无法进行的单一群体；另一个是使遗传算法具有局部的随机搜索能力，当接近最优解邻域时，通过变异可以加速最优解收敛速度． (5) 判定遗传算法的收敛性 遗传算法是一种基于群体进化的计算模型，它通过对群体中的个体进行遗传操作（选择、交叉和变异）使群体向着最优方向移动并最后逼近问题最优解，这样的进化过程包含了大量的随机性操作，显然该进化过程为一随机过程，从而可用随机过程理论来研究进化过程. 由遗传算法的进化过程可知，每一子代群体只和它的父代群体相关，而与其他代种群无关，因此进化过程具有天后效应，同时，各代种群之间的转换概率与时间的起点无关，因此可用Markov链分析遗传算法收敛性． 遗传算法收敛定理：基本遗传算法收敛于最优解的概率小于1． 由该