计算机常用算法与程序设计教程第8章 智能优化.pptVIP

常用算法与程序设计 常用算法与程序设计 * 8.1 模拟退火算法 模拟退火算法概述 8.2 遗传算法 遗传算法概述 遗传算法关键参数 8.3 粒子群优化算法 粒子群算法的基本结构 粒子群算法的关键参数 8.4 人工神经网络 神经网络模型 神经网络学习规则 常用算法与程序设计 * 8.1.1 物理退火过程和Metropolis准则 通过对固体退火过程的研究可知，高温状态下的物质降温时其内能随之下降，如果降温过程充分缓慢，则在降温过程中物质体系始终处于平衡状态。从而降到某一低温时其内能可达最小，称这种降温为退火过程，模拟退火过程的寻优方法称为模拟退火（simulated annealing,SA）算法。 常用算法与程序设计 * 8.1.2 模拟退火算法概述 1. 模拟退火的基本思想 模拟退火算法可以分解为解空间、目标函数和初始解三部分。 常用算法与程序设计 * 模拟退火算法简单步骤描述如下： (1) 初始化：初始温度T(充分大)，初始解状态S(是算法迭代的起点)， 每个T值的迭代次数L； (2) 对k=1，……，L做第(3)至第6步； (3) 产生新解S′； (4) 计算增量Δt′=C(S′)-C(S)，其中C(S)为评价函数； (5) 若Δt′0则接受S′作为新的当前解，否则以概率exp(-Δt′/T)接受S′作为新的当前解。 (6) 如果满足终止条件则输出当前解作为最优解，结束程序。终止条件通常取为连续若干个新解都没有被接受时终止算法。 (7) T逐渐减少，且T-0，然后转第2步。 常用算法与程序设计 * 应用举例 论货郎担问题(Travelling Salesman Problem，简记为TSP问题)：设有n个城市，用数码1,…,n代表。城市i和城市j之间的距离为d(i，j) i, j=1,…,n．TSP问题是要找遍访每个域市恰好一次的一条回路，且其路径总长度为最短。 求解TSP的模拟退火算法模型可描述如下： 常用算法与程序设计 * 解空间 解空间S是遍访每个城市恰好一次的所有回路，是{1，……，n}的所有循环排列的集合，S中的成员记为(w1,w2 ,……，wn)，并记wn+1= w1。初始解可选为(1，……，n)； 目标函数 此时的目标函数即为访问所有城市的路径总长度或称为代价函数： 并要求此代价函数的最小值。 常用算法与程序设计 * 新解的产生 随机产生1和n之间的两相异数k和m，若km，则将 (w1, w2 ,…，wk , wk+1 ,…，wm ,…，wn) 变为： 　　(w1, w2 ,…，wm , wm-1 ,…，wk+1 , wk ,…，wn) 如果是km，则将 　　(w1, w2 ,…，wk , wk+1 ,…，wm ,…，wn) 　　变为： 　　(wm, wm-1 ,…，w1 , wm+1 ,…，wk-1 ,wn , wn-1 ,…，wk) 上述变换方法可简单说成是“逆转中间或者逆转两端”。 也可以采用其他的变换方法，有些变换有独特的优越性，有时也将它们交替使用，得到一种更好方法。 代价函数差 设将(w1, w2 ,……，wn)变换为(u1, u2 ,……，un), 则代价函数差为： 常用算法与程序设计 * Procedure TSPSA: 　begin 　　init-of-T; { T为初始温度} 　　S={1，……，n}; {S为初始值} 　　termination=false; 　　while termination=false　　　begin 　　　　for i=1 to L do 　　　　　　begin 　　　　　　　generate(S′form S); { 从当前回路S产生新回路S′} 　　　　　　　　Δt:=f(S′))-f(S);{f(S)为路径总长} 　　　　　　　　IF(Δt0) OR (EXP(-Δt/T)Random-of-[0,1]) 　　　　　　　　S=S′; 　　　　　　　　IF the-halt-condition-is-TRUE THEN 　　　　　　　　termination=true; 　　　　　　End; 　　　　T_lower; 　　　End; 　End 常用算法与程序设计 * 8.2 遗传算法 遗传算法是一类模拟生物进化的智能优化算法，它是由J.H.Holland于六十年代提出的。目前，遗传算法已成为进化计算研究的一个重要分支。 与传统优化方法相比，遗传算法的优点是：群体搜索，不需要目标函数的导数，概率转移准则。 常用算法与程序设计 * 8.2.1 生物的进化与遗传 生物进化的基本过程 群 体 子 群