第七章(现代优化).pdfVIP

第七章 现代优化计算方法 §7.1 引言 §7.2 计算复杂性和启发式算法的概念 §7.3 模拟退火优化算法 §7.4 遗传优化算法 §7.5 神经网络优化算法 §7.6 混合优化算法 §7.7 多学科设计优化 §7.1 引言 常规优化算法 Powell 法、梯度法 随机方向搜索法、复合形法、惩罚函数法 启发式算法 适于求解高非线性、多约束、多极值问题 —— 现代优化计算方法： 模拟退火算法 （Simulated annealing） 遗传算法 （Genetic algorithms ） 神经网络优化算法 （Neural networks optimization ） 混合优化算法 （Hybrid optimization ） §7.2 计算复杂性和启发式算法 一.计算复杂性 由于计算时间和存储空间的局限，某些算法在计算中不一定能得到解 算法的复杂性——算法的求解方法造成（例如，求二阶导数） 问题的复杂性—— 问题本身求解的复杂造成求解 求解问题的规模（维数）n 对复杂性的影响 §7.2 计算复杂性和启发式算法 二.启发式算法 是相对于有严格数学背景的数学规划优化算法提出的。 有严格数学背景——梯度法、坐标轮换法、Powell法 是基于直观或经验构造的算法，在可接受的花费（指计算时间和空间） 内寻找最好的解，但不能保证所得的解就是最优解，以及此解与最优解 的近似程度。 通过揭示和模拟自然现象和过程，并综合数学、物理学、生物进化、人 工智能、神经科学和统计学等所构造的算法。也称构造型算法、智能优 化算法。 §7.3 模拟退火优化算法 一. 物理背景： 固体退火的物理过程和统计性质： （1）加温：随温度升高，粒子能量增高，与平衡位置的距离增大 （2 ）等温：温度升至熔解温度，固体的规则性被打破，成为液体，粒子 可以自由运动和重新排序，消除系统中原先存在的非均匀状态 （3 ）冷却：随着温度的下降，粒子能量减小，运动减弱，粒子最终进入 平衡态，固化为具有最小能量的晶体 §7.3 模拟退火优化算法 温度t 下，分子停留在某一状态r 满足Bolztmann 概率分布： 1  E (r )  P {E E (r )} exp  −  z (t )  kt  其中： E(r) ——状态r 的能量 k ——常数 E ——分子能量的一个随机变量 分子停留在某种能量状态的概率 z(t) ——概率分布的标准化因子 与温度成反比 D0 ——最低能量状态的个数 D ——状态空间中状态的个数 随着温度t不断降低，分子停留在低 物理退火 优化设计 能量状态的概率不断增大 E （r ） f （x ） 相同温度下，分子停留在低能量状 E （rmin ） f （x * ） 态的概率要更大 §7.3 模拟退火优化算法 二. 基本思想： 状态迁移准则（Metropolis 抽样稳定性条件）： 若新状态 j 的能量满足条件，则被用来  E − E  exp  i j  ≥ random (0,1) 替代原状态 i。