很经典的模拟退火算法--.pptVIP

1 Simulated Annealing （模拟退火法） 报告人 : 陈世明 2 大纲 简介 攀登算法 模拟退火法 v.s. Hill Climbing 仿真退火法的检测标准与流程 模拟退火法的考虑因素 其他的问题 提高效能与算法的修正 结论 2020/2/10 3 简介 仿真退火法是仿真冷却晶体的过程 。 最早是由 Metropolis 、 Rosenbluth 等人在 1953 年提出 。 1983 年， Kirkpatrick 等人将其运用在求优化的问题、定位 及图分割等问题上 ， 它是蒙地卡罗算法的推广 。 2020/2/10 4 攀登算法 ( Hill Climbing) 攀登算法（ Hill-climbingAlgorithm ）是一种迭代增进的 算法，它利用单一解在解空间作搜寻，并在每一次迭代中， 在目前解的邻近解空间选择出一个邻近解。 当邻近解的目标函數值比目前解的目标函數值來的佳时， 就以邻近解取代目前解；否则，就重新在目前解的邻近解 空间选择一个邻近解。 2020/2/10 5 模拟退火法 v.s. Hill Climbing HillClimbing 是挑选邻近点中最好的点，但这样会有局部 最大值的问题。 仿真算法是随机数找寻邻近的点。 –若找到的点比立足点好，则取之。 –否则依照机率决定是否取之。 2020/2/10 6 模拟退火法的流程 (1/2) 需先设定一些參數，。接着随机产生一个初始的目前解 ， 并计算他的目标函數值 。 以目前解为中心对解空间做随机扰动，产生一个扰动解 ， 其目标函數值为 。 若接受，则以该扰动解取代目前解作为该次迭代的解。 X ) ( X f X ) ( X f 2020/2/10 7 模拟退火法的检测标准 根据热力学定律，在温度为 t 的情况下，能量差所表现的 机率如下： P(ΔE)=exp( - ΔE / kt) – k 是Boltzmanns Constant 转换到模拟退火法，则变成 P=exp(-c / t)r – c 是评估函数的差 – r 是 0~1 之间的随机数 2020/2/10 8 模拟退火法的流程 (2/2) 假设所求解的问题是目标函數最小化问题 ， 若 ， 则透过机率函數接受 为新解 。 接着判断是否满足降温条件，若是，则透过冷却机制降 温， ， 。 反之，维持目前温度。之后判断是否达到终止条件， 例如 达到设定的迭代次數或是連续几次迭代目前解都不再改变 时 。 ) ( X f ) ( ) ( x f X f f ? ? ? 0 ? ? f T T ? ? ? ] 1 , 0 [ ? ? 2020/2/10 9 模拟退火法的流程图 初使化设定 随机产生一个初始解 扰动产生一个新解 是否接受 ? 修改目前解 降温 缩减温度 是否达到中止条件 ? 最佳解 No Yes Yes Yes No No 2020/2/10 10 冷却排程 (1/4) 初始温度（ Starting Temperature ） – 温度要够高才能移动到任何的状态 。 – 温度不能太高，否则会导致在一段时间内皆用随机数 在凑解答 。 如果可以知道检测函数的最大值就可以找到最好的初 始温度 。 快速提高温度，然后又快速降温，直到有 60% 的最差 解被接受 。 快速提高温度，但慢慢降温，并定出适当比例最差解 的接受度 。 – – – 2020/2/10 11 冷却排程 (2/4) 最终温度（ Final Temperature ） – 通常是零，但会耗掉许多模拟时间 。 – 温度趋近于零，其周遭状态几乎是一样的 。 – 所以寻找一个低到可接受的温度 。 2020/2/10 12 冷却排程 (3/4) 温度减少（ Temperature Decrement ） – 每次降低温度的差距以及在同一温度反复寻找最适解 会导致指数般成长的搜寻空间 。 1. 以线性降温来说 Temp=Temp-x 2. 以几何观念来看 Temp=Temp*y (y 约 0.8~0.99 为佳 ) 2020/2/10 13 冷却排程（ 4/4 ） 反复次数（ Iterations at each Temperature ） – 一般会定一个常数 。 – Lundy 认为只要反复一次，但每次降低的温度差距必须 非常小 。 Temp=Temp / (1+a*Temp) a 是非常小的值 – 低温需要较多反复次数以避免找到局部最大值，但高 温则可减少次数 。 2020/2/10 14 模拟退火法的流程图 初使化设定 随机产生一个初始解 扰动产生一个新解 是否接受 ? 修改目前解 降温 缩减温度 是否达到中止条件 ? 最佳解 No Yes Yes Yes No No 2020/2/10 15 扰动方式 (1/2)