模拟退火[精选].ppt

* 最优化方法与最优控制 模拟退火算法 杨 航 俞枭辰 李金龙 * 最优化方法与最优控制 模拟退火算法 模拟退火算法来源于金属退火原理，将金属加温至充分高，再让其徐徐冷却，加温时，金属内部粒子随温升变为无序状，内能增大，而徐徐冷却时粒子渐趋有序，在每个温度都达到平衡态，最后在常温时达到基态，内能减为最小。 模拟退火（simulated annealing，简称SA）是一种通用的随机搜索算法，1953年Metropolis等人提出。其基本思想是把某类优化问题的求解过程与统计热力学的热平衡问题进行对比，试图通过模拟高温物体退火的过程来找到优化问题的全局最优解或近似全局最优解。 * 最优化方法与最优控制 模拟退火算法 对于一个优化问题，我们可把目标函数看成定义在解空间上的能量曲面，而整个曲面凹凸不平，如果让个光滑圆球在曲面上自由滚动，这个圆球十有八九会滚到附近的凹处停止运动，但该低谷并不一定是最深的一个凹谷。模拟退火方案就是类似于沿水平方向给圆球一个作用力，若该力足够大且小球所处的低谷并不很深，小球受水平力作用会从该低谷滚出，落入另一个低谷，然后受水平力作用又滚出，如此不断滚动。如下图所示 如果作用小球的水平力掌握适当，小球很有可能停留在最深得低谷中，这个最深的低谷就是最优化问题的全局最优解或近似全局最优解。 局部最优解 全局最优解 局部最优解 局部最优解 模拟退火的基本原理： 模拟退火算法利用模拟热力学中经典粒子系统的降温过程来求解规划问题的极值。Metropolis过程基本步骤如下： 1、给定初始温度 及初始点 ，计算该点的函数值 ； 2、随机产生扰动 ，得到新点 ，计算新点的函数值 及函数差值 ； 3、若 ，则接受新点，作为下一次模拟退火的初始点； 4、若 ，则计算新点的接受概率 ，产生[0,1]区间的均匀分布的伪随机数 r ， ，若 ，则接受新点作为下一次模拟的初始点，否则放弃新点，仍取原来的点作为下一次模拟的初始点。 * 最优化方法与最优控制 模拟退火算法 1、初始温度的控制: 温度的初始值设置是影响模拟退火算法全局搜索性能的重要因素之一、初始温度高，则搜索到全局最优解的可能性大，但因此要花费大量的计算时间；反之，则可节约计算时间，但全局搜索性能可能受到影响,使搜索到全局最优解的可能性减小。实际应用过程中，初始温度一般需要依据实验结果进行若干次调整，一般温度初值 取较大值。 * 最优化方法与最优控制 模拟退火算法 模拟退火的有关说明（关键参数调控） 模拟退火的执行过程中，算法效果取决于一组控制参数的选择。模拟退火的关键参数包括初始温度，温度下降方法，每一温度迭代长度，终止准则。 2、温度下降方法的控制 温度下降方法的确定是模拟退火中影响全局搜索性能的重要因素。如果温度下降过快可能就会丢失极值点；如果温度下降过慢，收敛速度又会大大降低，导致计算时间过长。 在实际问题中，通常采用两种非常直观的下降方法； (1) 每一步温度以相同比率下降，即 ，其中 ， 为降温系数 (2) 每一步温度以相同迭代长度下降，即 ，其中 为初始温度， 为温度下降的总次数 * 最优化方法与最优控制 模拟退火算法 模拟退火的有关说明（关键参数调控） 模拟退火的执行过程中，算法效果取决于一组控制参数的选择。模拟退火的关键参数包括初始温度，温度下降方法，每一温度迭代长度，终止准则。 * 最优化方法与最优控制 模拟退火算法 3、每一温度迭代长度的控制 模拟退火的全局搜索行与每一温度的迭代长度密切相关。一般的，同一温度下的充分搜索是必要的，但需以计算时间增加为代