数学建模：第七讲 现代优化算法.pdfVIP

第12章 现代优化算法 12.1 模拟退火算法 12.2 遗传算法 科学研究、工程实际与国民经济发展的众多问题 可归结为“最大效益、最小代价”这类典型的优化 模型。 求解这类模型导致寻求某个目标函数（有解析表达 式或无解析表达式）在特定区域上的最优解，传统 的建立在梯度计算基础上的非线性规划类方法，当 目标函数仅具有单极点时，通常表现出较高的计算 效率，但当目标函数具有多极值点时，由于其本身 固有的局部优化性及不稳健等缺陷，而被广泛认为 不适于全局优化问题的求解。 近二十年来，人们相继发展了许多求解全局优化问 题的方法，一般可分为确定型与非确定型（如随机 搜索）算法。 Monto-Carlo方法及模拟退火算法都归属后者。 当目标函数具有为数不多的极值点时，确定型算法 常表现出较高的计算效率，但同时也暴露出算法复 杂、对目标函数的性质要求高、可靠性差等缺点。 相比而言，随机搜索方法具有较强的鲁棒性，算法 容易实现，但常有计算效率低的缺点。 仿生类算法是近十几年来才发展起来的一类新型全局优化 搜索技术，它们通过向自然界学习，借鉴生物进化机制求 解问题。这类算法的主要优点在于其本质上的并行性、广 泛的可适用性（如对目标函数的性态无特殊要求，特别可 以没有明确的表达式）和较强的鲁棒性、简明性与全局优 化性能。 虽然从基本思想的产生至今已有二、三十年的历史，但广 泛用于求解优化问题还是近十几年的事。初步研究及广泛 的应用实践已显示出它们作为可靠、有效的全局优化算法 的巨大潜力和诱人前景。 仿生类算法，就其目前发展而言，可分为仿生过程算法与 仿生结构算法两大类，前者以模拟进化算法为代表，后者 以神经网络为典型。 粒子群算法，蚁群算法，模拟退火算法 神经网络 遗传算法 12.1 模拟退火算法 12.1.1 算法简介 模拟退火算法得益于材料统计力学的研究成果。 统计力学表明材料中粒子的不同结构对应于粒子的不 同能量水平。在高温条件下，粒子的能量较高，可以 自由运动和重新排列。在低温条件下，粒子能量较低。 如果从高温开始，非常缓慢地降温（这个过程被称为 退火），粒子就可以在每个温度下达到热平衡。当系统 完全被冷却时，最终形成处于低能状态的晶体。 如果用粒子的能量定义材料的状态，Metropolis 算 法用一个简单的数学模型描述了退火过程。假设材料 i 在状态 之下的能量为 ，那么材料在温度 时从状 E(i) T i j 态 进入状态 就遵循如下规律 （1）如果E( j)  E(i)，接受该状态被转换。 （2）如果E( j)  E(i)，则状态转换以如下概率被接 受 E ( i )E ( j ) KT e ， K T 其中 是物理学中的波尔兹曼常数， 是材料温度。 在某一个特定温度下，进行了充分的转换之后， i 材料将达到热平衡。这时材料处于状态 的概率满足波 尔兹曼分布 E ( i )  KT e P ( X  i)  ， T E ( j ) 