现代优化技术靳志宏算法收敛性.pptxVIP

现代优化技术;一、模拟退火算法的基本思想;模拟退火算法（起源）;模拟退火算法与物理退火过程的相似关系;模拟退火算法（Metropolis准则）;模拟退火算法（流程）;模拟退火算法（要素）;模拟退火算法（要素）;模拟退火算法（要素）; 牛牛文库文档分享;模拟退火算法（要素）;模拟退火算法（要素）;模拟退火算法（要素）;模拟退火算法的改进;15; 牛牛文库文档分享;17;18;19;20;例5：考虑抛掷一颗骰子的试验：;22;马尔科夫Markov链; ; ; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; ;上表中的4个概率就称为状态的转移概率，而这四个转移概率组成的矩阵　　　　　　　　　　　　　 B＝ 称为转移概率矩阵。可以看出，?转移概率矩阵的一个特点是其各行元素之和为１ ;2 转移概率矩阵及柯尔莫哥洛夫定理; 牛牛文库文档分享; 牛牛文库文档分享;例1 某计算机机房的一台计算机经常出故障，研究者每隔15min观察一次计算机的运行状态，收集了24h的数据（共作97次观察）。用1表示正常状态，用0表示不正常状态，所得的数据序列如下： 1110010011111110011110111111001111111110001101101111011011010111101110111101111110011011111100111; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享; 牛牛文库文档分享;;模拟退火算法的数学模型可以描述为，在给定邻域结构后，模拟退火过程是从一个状态到另一个状态不断地随机游动，我们可以用马尔科夫链描述这一过程，对给定的温度t，两个状态的转移概率定义为：; 称为从i到j的产生概率（generation probability）， 表示在状态i时，j状态被选取的概率，比较容易理解的是j为i的邻居，如果在邻域中等概率选取，则j被选中的概率为：; 由上面三组公式可以看出，一步转移概率只同状态i转移到状态j有关，同第几次迭代无关，因此，马氏链是时齐的，正是这个原因，将这一类算法取名为时齐算法。 下面，介绍几个概率论中常用概念，辅助同学们理解算法收敛性的讨论过程。; 若存在n，使得 ，则称状态i可达状态j，记成 若状态i和状态j满足 且 ，则称状态i和状态j相通，记成 。有如下定理： 定理：若 且 则有 。 ; 定义从i到达j的首达时刻的随机变量为： ;定理：状态j是常返的，则以概率1系统无穷次返回状态j，状态j是非常返的，则以概率1，系统只有限次返回状态j。 记 表示自状态i出发，系统通过j状态至少m次的概率，记 表示状态i出发通过j状态至少m次的时间。 ; 于是，有 ， 进而， 所以， ; 常返中的一种特殊情况为正常返，定义：; 在模拟退火的理论中，经常用到的一个概念是不可约，不可约中用到的一个概念是闭集。一个集合C是闭集的定义为： 有 ，这表示集合C是一个封闭的集合， i不可达到j ，对任意n成立。除整个状态空间外，没有别的闭集的马氏链成为不可约的马氏链。;定理1：不可约、有限状态且时齐的马氏链是正常返的。 定理2：非周期、不可约且时齐的马氏链是正常返的充分必要条件：存在唯一平稳分布 ，满足;模拟退火算法的时齐算法，当具有以下条件成立时，则可以认为该模拟退火算法收敛全局最优解： （1）在每一个给定的温度t，给出算法一步转移概率 的一些限定条件，使得定理2成立，由此得到平稳分布概率。 （2）给出平稳分布应该满足的条件，使得当温度渐进达到0度时，平稳分布的极限存在，即要求 （3）进一步要求平稳分布的极限具有全局最优性条件： 其中 是最优状态集合。 ;探索空间（search space）与实行可能域（feasible solution field） (1);近邻例一台机器的交货期最小迟延排序问题;目标函