人工智能在制造业中的应用4问题求解之二.ppt

人工智能在制造业中的应用 Ph.D. 陈志翔 北京工业大学 机电学院 Outline Random search Local search algorithms Hill-climbing search Simulated Annealing Tabu search Genetic algorithms 一、随机搜索 随机搜索 直觉 简单 盲目 二、局部搜索算法 局部搜索算法(Local search algorithms) 在许多问题中，到达目标的路径是不相关的，目标状态本身就是解 状态空间 = “全部”的构形 找到满足约束的构形，如：n-皇后问题，集成电路设计，车间布局，作业车间调度，自动程序设计，电信网络优化，机器人路径规划，车辆寻找路径，文件夹管理等 这种情况下，可以用局部搜索算法 保存一个“当前”状态，并试图改善 例：n-皇后问题 把n个皇后放在n × n 的棋盘上，所有的皇后互相攻击不到 局部搜索算法(Local search algorithms) 从单独的一个“当前”状态出发(不是很多条路径)，通常只移动到与之相邻或相近的状态。 局部搜索算法(Local search algorithms) 局部搜索算法的优点 优点： 只用很少的内存，通常容量是一个常数； 经常能在不适合系统化的很大的或无限的(连续的)状态空间中找到合理的解。 对解决纯粹的最优化问题很有用。 最优化问题 目标：根据一个目标函数找到一个最佳状态。 许多最优化问题不适合以前介绍的“标准的”搜索模型。(树搜索，图搜索) 1.爬山法搜索(Hill-climbing search) 向一个评价函数增加的方向持续移动的简单循环过程。 “象一个有健忘症的人在浓雾中爬珠穆朗玛峰” 爬山法搜索(Hill-climbing search) 局部最佳优先算法，贪婪局部搜索算法 爬山法搜索(Hill-climbing search) 最速下降法(Speedest Descent) 沿着梯度最大的方向下降。以最快的下降速度向目标前进。 爬山法搜索(Hill-climbing search) 问题：依靠与初始状态，可能到达并停留在一个局部的最大值。 爬山法搜索: 8-皇后问题 局部状态搜索一般用完全的状态形式化 h = 能够互相攻击的皇后对的数目 h = 17 目标：找到最小值h = 0 爬山法搜索: 8-皇后问题 随机重新开始的爬山法 如果一开始就没有成功，那么尝试，继续尝试。 从头再来 8皇后问题14%的初始状态可能用爬山法找到解，如随机重新开始，则大约需要7次迭代就能找到目标。大约22步。 对于300个皇后，不到1分钟就能求解。 随机爬山法 在上山的过程中随机地选择下一步，选择的概率随上山移动的陡峭程度而变化。 首选爬山法：随机生成后继节点，直到生成一个优于当前节点的后继。 随机“爬山”法 z = f(x, y) = 3(1-x)2exp(-(x2) - (y+1)2) - 10(x/5 - x3 - y5)exp(-x2-y2) -1/3*exp(-(x+1)2 - y2) 随机爬山法(小结) 爬山法算法的成功与否很大程度上取决于状态空间地图的形状。 如果地图中几乎没有局部极大值和高原，随机重新开始的爬山法将会很快地找到好的解。 NP难题通常具有指数级数量的局部极大值。 经过少数随机重新开始的搜索之后仍能找到一个合理的较好的解。 2.模拟退火算法(Simulated Annealing) 思想：通过允许一些“坏”的行动，以跳离局部极值点，但逐步降低允许“坏”行动的频率。 源于对固体退火过程的模拟，采用Metropolis接受准则，并用一组称为冷却进度表的参数控制算法进程，使算法在多项式时间里给出一个近似最优解。 退火过程 退火：先将固体加热至发生相变，再缓慢冷却的热力学过程。－系统在每一温度下达到平衡态 钢：奥氏体→缓冷→珠光体 (退火) 奥氏体→急冷→马氏体 (淬火) 液体→缓冷→规则晶体 Boltzmann有序性原理 封闭等温过程的自由能减少定律 对于与周围环境交换热量而温度保持不变的封闭系统，系统状态的自发变化总是朝着自由能减少的方向进行，当自由能达到最小值时，系统达到平衡态。 退火过程中系统的熵值不断减小，系统的能量也随温度降低趋于最小值。 Gibbs正则分布 Metropolis准则 在初始状态i，若新状态j是重要状态，就取代i成为当前状态，否则以i为当前状态。然后重复。 重要状态： 模拟退火算法(max) 模拟退火算法的性能 模拟退火算法以概率1收敛到整体最优解集。 渐近收敛到最优解集须经历无限次变换。 在多项式时间里对模拟退火算法渐近性态的逼近，仍可返回近似最优解。 冷却进度表 核心概念：准平衡(Quasi-equili