人工智能导论——第三章.pptVIP

新解的接受准则 初始参数的确定 康立山等人的方法： 初始温度t0=280； 在每个温度下采用固定的迭代次数，Lk=100n，n为城市数； 温度的衰减系数＝0.92，即tk+1=0.92×tk； 算法的停止准则为：当相邻两个温度得到的解无任何变化时算法停止。 Nirwan Ansari和Edwin Hou的方法： 初始温度t0是这样确定的：从t0=1出发，并以t0=1.05×t0对t0进行更新，直到接受概率大于等于0.9时为止，此时得到的温度为初始温度； 在每个温度下采用固定的迭代次数，Lk=10n，n为城市数； 温度的衰减系数＝0.95，即tk+1=0.95×tk； 10城市旅行商问题求解结果 ? 路径长度 出现次数 平均转移次数 路径 最优 2.691 906 3952 BCADEFGHIJ 次优 2.752 46 4056 BCADEGFHIJ 第三 2.769 10 4053 DEFGHIJCBA 最差 2.898 5 4497 ABCDEFHIJG 20城市旅行商问题求解结果 ? 路径长度 出现次数 平均转移次数 路径 最优 24.52 792 8740 ACLBIQFTMEPRGSOJHDKN 次优 24.62 167 8638 ADCLBIQFTMEPRGSOJHKN 第三 25.17 39 9902 ANKDHIOJSGRPEMTFQBLC 最差 25.50 1 5794 AQFTMEPRGSJOIBLCDHKN * 背包问题：承重为b的包，n个重量分别为ai价值为ci的物品，如何以最大的价值装包？该问题有不同的变形 装箱问题：箱子的体积为b，n个物品，知道每个的体积，如何装箱，使得箱子的剩余体积最小。 机器翻译中的语句生成问题也可以看成是旅行商问题：一堆词，选择一个词的顺序，使得成为句子的概率最大。 * 幂集 N（S）就是S的某个子集 * 比较慢的机器上的结果 * * * * * 主要是放宽了对称的要求 邻域连同：可以理解为从任何一个邻域可以到达另一个邻域，即邻域是一环一环套在一起的。 * 充分条件：左边是大于1的，因此是充分的 * 忽略最后一式的推导，具体过程参考书上的内容 * * 算法中的问题 初始温度的选取 内循环的结束条件，即每个温度状态交换何时结束 外循环的结束条件，即温度下降到什么时候结束 温度的下降方法 在模拟退火过程中，给定温度下状态（解）的转移可以看作是一个马尔可夫链。对于任意两个状态i和j，我们用Pt(i, j)表示温度t下，从状态i转移到状态j的一步转移概率，则有： 其中：Gt(i,j) 是产生概率，表示从状态i产生状态j的概率。At(i,j) 是接受概率，表示在状态i产生状态j后，接受状态j的概率。 定理1 满足条件的Gt(i,j)、At(i,j) 举例： 说明：条件2的后半部分除外，该条件与具体的问题有关。 定理2： 在定理1的条件下，如果对于任意两个状态 有： 则有： 定理3（放宽了定理1的条件） Gt(i,j)、At(i,j)满足定理1中除条件（2）以外的所有其他条件，并且： 1，对于任意两个状态i、j，它们相互为邻居或者相互都不为邻居； 2，对于任意i，Gt(i,j)满足： 3，状态空间S对于邻域是连通的； 则与模拟退火算法相伴的时齐马尔可夫链存在平稳分布，其分布概率为： 算法的实现 （1）初始温度t0； （2）温度t的衰减函数，即温度的下降 方法； （3）算法的终止准则，用终止温度tf或 者终止条件给出； （4）每个温度t下的马尔可夫链长度Lk。 起始温度的选取（1） 一个合适的初始温度，应保证平稳分布中每一个状态的概率基本相等，也就是接受概率P0近似等于1。在Metropolis准则下，即要求： 如果我们给定一个比较大的接受概率P0，则： 其中， 可以有以下估计方式： 起始温度的选取（2） 假设在t0下随机的生成一个状态序列，分别用m1和m2表示指标函数下降的状态数和指标函数上升的状态数， 表示状态增加的平均值。则m2个状态中，被接受的个数为： 所以平均接受率为： 求解有： 起始温度的选取（3） 模拟固体的升温过程： （1）给定一个希望的初始接受概率P0，给定一个较低的初始温度t0，比如t0＝1； （2）随机的产生一个状态序列，并计算该序列的接收率： 如果接收率大于给定的初始接受概率P0，则转（4）； （3）提高温度，更新t0，转（2）； （4）结束。 温度的下降方法（1） 等比例下降 温度的下降方法（2）