第8章 其他智能优化算法教学幻灯片.ppt

8.1 模拟退火算法 8.1.1 模拟退火算法的概念 8.1.2 模拟退火算法的发展 8.1.3 模拟退火算法的原理 8.1.4 模拟退火算法的特点 8.2 禁忌搜索算法 8.2.1 禁忌搜索算法的概念 8.2.2 禁忌搜索算法的发展 8.2.3 禁忌搜索算法的原理 8.2.4 禁忌搜索算法的特点 8.3 人工免疫算法 8.3.1 人工免疫算法的概念 8.3.2 人工免疫算法的发展 8.3.3 人工免疫算法的原理 8.3.4 人工免疫算法的特点 第8章 其他智能优化算法 8.1 模拟退火算法 8.1.1 模拟退火算法的概念 模拟退火算法（Simulated Annealing，SA）是一种基于金属退火机理而建立的全局最优化方法，能够以随机搜索的方式从概率意义上找出目标函数的最优解。也可以说是一种模拟物理退火过程而设计的优化算法。 SA是一种基于Mente Carlo（蒙特卡罗）迭代求解的启发式随机搜索算法。 8.1 模拟退火算法 【注】Mente Carlo（蒙特卡罗）方法 ? 概念：蒙特·卡罗方法（Monte Carlo method）又称为统计模拟法、随机抽样技术，是一种以概率和统计理论为基础的统计计算方法。 ? 起源与发展：最早可以追溯到1777年法国数学家布丰（Georges Louis Leclere de Buffon，1707~1788）用投针实验的方法求圆周率π。20世纪40年代，在John von Neumann（约翰·冯·诺依曼，1903~1957）、Stanislaw Ulam（斯塔尼斯拉夫·乌拉姆，1909~1984）和Nicholas Metropolis（1915~1999）在洛斯阿拉莫斯国家实验室为第二次世界大战研制原子弹的“曼哈顿计划”计划工作时，发明了蒙特卡罗方法。 8.1 模拟退火算法 因为Ulam的叔叔经常在蒙特卡洛赌场赌博，而且概率论就是在赌博的基础上发展越来的，所以把这种计算方法称为蒙特卡罗方法。 蒙特卡洛（Monte Carlo）是摩纳哥（monaco）首都，为世界三大赌城 （澳门、蒙特卡洛、拉斯韦加斯）之一。 8.1 模拟退火算法 Buffon，1707~1788 Neumann，1903~1957 Ulam，1909~1984 Metropolis，1915~1999 ? 基本思想：当所求解问题是某种随机事件出现的概率或者是某个随机变量的期望值时，通过某种“实验”的方法，以这种事件出现的频率估计这一随机事件的概率，或者得到这个随机变量的某些数字特征，并将其作为问题的解。 ? 特点：一是简单，省却了繁复的数学推导和演算过程；二是快速。简单和快速，是蒙特卡罗方法在现代项目管理中获得应用的技术基础。 ? 应用领域：蒙特卡罗方法在金融工程学、宏观经济学、生物医学、计算物理学等领域应用广泛。 8.1 模拟退火算法 8.1.2 模拟退火算法的发展 1953年，Metropolis基于热力学的金属退火过程，提出了重要性采样法，即以概率接受新状态，称为Metropolis准则，计算量相对于Monte Carlo方法显著减小，但未引起较大反响。 1983年，S. Kirkpatrick 等提出改进的模拟退火算法，并成功地解决了大规模组合优化问题，从此引起广泛关注和应用。 8.1 模拟退火算法 8.1 模拟退火算法 8.1.3 模拟退火算法的原理 ? 物理退火过程 金属物体加热到一定温度后，它的所有分子在状态空间自由运动，随着温度的降低，分子停留在不同的状态，并逐渐趋于有序，最后以一定的结构排列，达到稳定状态。这种由高温向低温逐渐降温的热处理过程就称为退火。一般分为三个过程。 ① 加温过程：增强粒子的热运动，使其偏离平衡位置。当温度足够高时，固体将溶解为液体，消除了系统原先可能存在的非均匀态，使随后进行的冷却过程以某一平衡态为起点。 8.1 模拟退火算法 ② 等温过程：对于与周围环境交换热量而温度不变的封闭系统，系统状态的自发变化总是朝自由能减少的方向进行，当自由能最小时，系统达到平衡态。 ③ 冷却过程：使粒子的热运动减弱并渐趋有序，系统能量逐渐下降，从而得到低能的晶体结构。 可见，在高温时，可接受与当前状态能量差较大的新状态，而在低温时，只能接受与当前状态能量差较小的新状态