【基础科学】模拟退火算法学习及试验分析ppt模版课件.ppt

* 为了理解和运用, 人们通常会采用易懂的方式来理解和掌握知识, 所以我的重点是通过简单的例子和比较多的图和文字来描述问题, 而不是堆上一堆数学公式. * 基本上有2类一般性的问题, 另一类是求解等式 g(x)=0 for some vector-valued function g(x) 这2者可以相互转换. 也有人叫 energy, 能量. * 理论上全局最优指每一温度迭代无穷多次,达到平稳分布条件,就可以找到全局最优解. * 需要说明的是, 这里的 x1, x2的范围只是一个人工限定的范围. 如果 x1,x2都取更大值的区间,如[-5,5] 也可以, 此时解最大可以到 6420多一些 * 随着x1,x2范围的增大,函数值的区间也随之增大.[-5,5]时,函数最大值达到6420. 基本形状保持不变. * * * 随机数R 符合正态分布也就是 符合N(0,1)分布的随机数, 这意味着 随机变量落入[-1,1]内的概率是68.26%, 落入[-2,2]内的概率是 95.44% 落入[-3,3]内的概率是 99.72% 除以100之后,则处于 e-3量级的小数范围内. 68% [-0.01,0.01] 95% [-0.02,0.02] 99% [-0.03,0.03] * 可以看到,初始解的位置与最终解有极大关系. for x=-3:0.5:3 for y=-2:0.5:2 init=[x y]; [mini fval,ttotal]=anneal2(loss,init); end; end; * 处于局部极值区域的初始点往往陷入局部极值,处于全局极值区域的初始点则进入全局最小点区域. * 可以看出,与 rand/100相比,随着邻域的范围的扩大,进入全局极小值区域的概率也就越大. * * * 而 0.8的温度下降速率和1e-8的终止温度 意味着, 不同的温度最多运行80次就达到终止温度. 1*(0.8)^80 ans = 1.7668e-008 1*(0.8)^70 ans = 1.6455e-007 1*(0.8)^60 ans = 1.5325e-006 1*(0.95)^350 ans = 1.5968e-008 1*(0.95)^310 ans = 1.2426e-007 1*(0.95)^260 ans = 1.6149e-006 * 合适 如何定义,可能需要进行多次尝试. * 假设x1,x2以 0.02的步长在[-3,3],[-2,2]的区间内进行 Brute Force Search, 那么程序需要运行 (2*3/0.02+1)*(2*2/0.02+1)=60501的次数才能找到全局最优解的邻近解-1.03085 [3,3] [-2,2] step 0.02 i = 60501 mini = -1.03085542666667 [3,3] [-2,2] step 0.01 i = 241001 mini = -1.03157036385300 [3,3] [-2,2] step =0.5 i = 117 mini = -0.75000000000000 [3,3] [-2,2] step =1 i = 35 mini = 0 * 特点是有非常密集的极小值区域. * for x=-500:40:500 for y=-500:40:500 init=[x y]; [mini fval,ttotal]=anneal2(loss,init); end end 另外注意, 这3个图的坐标轴的颜色轴大小不一致! * 在我的笔记本上迅驰1.6G, matlab7, 512M 内存,同时打开ppt, word, SA vs BF 小于1s 120s * * 局部极值区域是否连续,是一个问题,肯定有不连续的例子. 也许大部分问题的局部极值区域是连续的,与邻域结构是什么样具体的关系, 这个需要讨论. * * 对问题本身建模,以及构造合适的邻域结构,是解决问题的关键因素. 再加上某种程度的初始解的grid式的粗遍历并应用模拟退火或其他类似算法, 或许可以解决很多问题. * * Brute force program, less bugs, no human miss. Deep blue proved Bruteforce is sufficent. Go could be “Solvable” with the next 5 years. The reasons against brute force sear