3搜索问题-启发式搜索精选.ppt

* * * * * * * * * * * * * * * * * * * * 来自冶金：增强金属和玻璃的。。。 * 爬山法搜索 模拟退火搜索 局部剪枝搜索 爬山法 模拟人们出游爬山的决策过程 以目标值增加的方向为搜索方向 如果有多个增加的方向，选使目标值增加速度最快的方向 爬山法会在某个峰顶终止，其相邻状态中没有更高的目标值了，称为局部极大值 爬山法的基本步骤 1、初始化，确定初始节点等参数 2、检查当前节点是否满足目标条件，如果满足，则搜索成功，结束 3、取邻域中每一个相邻节点，计算其目标函数的改进值 4、取改进值最大的相邻节点作为搜索目标，替换当前节点 5、检查是否满足循环终止条件。如果满足，则中止循环，否则转步2 爬山法的缺陷 难以处理山肩的情况 贪婪搜索方向不一定是正确的搜索方向 爬山法的改进 随机爬山法：在上山移动中随机的选择下一步 可回溯爬山法：给定启发式的回溯策略，允许回头搜索其他节点 洪水爬山法： 不断寻找改进方向 允许水平移动 可回溯 爬山法是完完全全的贪心法，每次都选择一个当前最优解，因此只能搜索到局部的最优值。 模拟退火其实也是一种贪心算法，但是它的搜索过程引入了随机因素。模拟退火算法以一定的概率来接受一个比当前解要差的解，因此有可能会跳出这个局部的最优解，达到全局的最优解。 移动后得到更优解，则总是接受该移动 移动后的解比当前解要差，则以一定的概率接受移动，而且这个概率随着时间推移逐渐降低（逐渐降低才能趋向稳定） 　　这里的“一定的概率”的计算参考了金属冶炼的退火过程，这也是模拟退火算法名称的由来 比喻：在冶金中退火是为了增强金属和玻璃的韧性和硬度而先把它们加热到高温然后逐渐冷却的过程 模拟退火过程 思想来源于固体退火原理，属于热力学范畴 将固体加温至充分高，再让其缓慢冷却 加温时，固体内部的粒子随温升脱离原先的平衡态，变为无序状 缓慢冷却时，粒子活性逐渐下降，逐渐停留在不同状态，重新形成粒子的排列结构 如果降温过程足够缓慢，粒子的排列就会达到一种平衡态，使系统能量最小 初始状态 加温 冷却 模拟退火的基本步骤:  (1) 初始化：初始温度T(充分大)，初始状态S， 迭代次数L  (2) 对k=1，……，L重复第(3)至第6步：  (3) 产生新解S’  (4) 计算增量Δt’=C(S’)-C(S)，其中C(S)为评价函数  (5) 若Δt’0则接受S’作为新的当前解，否则以概率exp(-Δt’/T)接受S’作为新的当前解 (6) 如果满足终止条件则输出当前解作为最优解，结束程序。终止条件通常取为连续若干个新解都没有被接受时终止算法。 (7) T逐渐减少，且T0，然后转第2步。 冷却进度表： 是指调整模拟退火法的一系列重要参数，它控制温度参数T的初值及其衰减函数。 冷却进度表的内容： 控制参数T的初值; 控制参数T的衰减函数； 每一个温度下的迭代次数L，即每一次随机游走过程，要迭代多少次，才能趋于一个准平衡分布 结束条件 模拟退火算法的关键点 初始温度必须足够高 在每一个温度下，状态的转换必须足够充分 温度T的下降必须足够缓慢 模拟退火算法的优缺点? ? 优点： 计算过程简单，通用，鲁棒性强 适用于并行处理，可用于求解复杂的非线性优化问题 缺点： 如果降温过程足够缓慢，多得到的解的性能会比较好，但与此相对的是收敛速度太慢; 如果降温过程过快，很可能得不到全局最优解 爬山算法：兔子朝着比现在高的地方跳去。它找到了不远处的最高山峰。可能这只兔子“登泰山而小天下”，但是却没有找到珠穆朗玛峰。这就是爬山算法，它不能保证局部最优值就是全局最优值。 模拟退火：对兔子来说，兔子喝醉了。他迷迷糊糊地跳了很长时间。这期间，它可能走向高处，也可能踏入平地。但是，他渐渐清醒了并朝最高方向跳去。为了保证有比较优的解，算法运行时间比较长，这也是模拟退火的最大缺点。人喝醉了酒办起事来都不利索，何况兔子？ 遗传算法：兔子们吃了失忆药片，并被发射到太空，然后随机落到了地球上的某些地方。他们不知道自己的使命是什么。但是，如果你过几年就杀死一部分海拔低的兔子，多产的兔子们自己就会找到珠穆朗玛峰。 禁忌搜索:兔子们知道一个兔的力量是渺小的。他们互相转告着，哪里的山已经找过，并且找过的每一座山他们都留下一只兔子做记号。他们制定了下一步去哪里寻找的策略。兔子们找到了泰山，它们之中的一只就会留守在这里，其他的再去别的地方寻找。就这样，一大圈后，把找到的几个山峰一比较，珠穆朗玛峰脱颖而出。这种方法的有的是“记忆”,所以的兔子能记住他们已选中哪座山, 下一步就避免了重复搜索. 根据生物进化思想的启发而得出的一种全局优化算法。它模拟达尔文的自然选择学说和自然界的生物进化过程，借喻生物进化过程特别是遗传学的