五种最优化方法.docxVIP

精心整理 五种最优化方法 1.最优化方法概述 1.1 最优化问题的分类 1）无约束和有约束条件； 2）确定性和随机性最优问题（变量是否确定） ； 3）线性优化与非线性优化（目标函数和约束条件是否线性） ； 4）静态规划和动态规划（解是否随时间变化） 。 1.2 最优化问题的一般形式（有约束条件） ： 式中 f(X)称为目标函数 (或求它的极小，或求它的极大 )，si(X)称为不等式约束， hj(X)称为等式约 束。化过程就是优选 X，使目标函数达到最优值。 牛顿法 2.1 简介 1）解决的是无约束非线性规划问题； 2）是求解函数极值的一种方法； 3）是一种函数逼近法。 2.2 原理和步骤 最速下降法（梯度法） 3.1 最速下降法简介 1）解决的是无约束非线性规划问题； 2）是求解函数极值的一种方法； 3）沿函数在该点处目标函数下降最快的方向作为搜索方向； 3.2 最速下降法算法原理和步骤 模式搜索法 ( 步长加速法 ) 4.1 简介 1）解决的是无约束非线性规划问题； 2）不需要求目标函数的导数，所以在解决不可导的函数或者求导异常麻烦的函数的优化问题时非 常有效。 3）模式搜索法每一次迭代都是交替进行轴向移动和模式移动。 轴向移动 的目的是探测有利的下降 精心整理 精心整理 方向，而 模式移动 的目的则是沿着有利方向加速移动。 4.2 模式搜索法步骤 评价函数法 5.1 简介 评价函数法是求解多目标优化问题中的一种主要方法。在许多实际问题中，衡量一个方案的好 坏标准往往不止一个，多目标最优化的数学描述如下： min(f_1(x),f_2(x),...,f_k(x)) s.t.g(x)=0 传统的多目标优化方法本质是将多目标优化中的各分目标函数，经处理或数学变换，转变成一个 单目标函数，然后采用单目标优化技术求解。常用的方法有“线性加权和法” 、“极大极小法”、“理 想点法”。选取其中一种线性加权求合法介绍。 5.2 线性加权求合法 遗传算法 智能优化方法是通过计算机学习和存贮大量的输入 -输出模式映射关系， 进而达到优化的一种方法， 主要有人工神经网络法，遗传算法和模拟退火法等。 6.1 遗传算法基本概念 1.个体与种群 个体就是模拟生物个体而对问题中的对象（一般就是问题的解）的一种称呼。 种群就是模拟生物种群而由若干个体组成的群体 ,它一般是整个搜索空间的一个很小的子集。 2.适应度与适应度函数 适应度 就是借鉴生物个体对环境的适应程度 , 而对问题中的个体对象所设计的表征其优劣的一 种测度。 适应度函数 就是问题中的全体个体与其适应度之间的一个对应关系。该函数就是遗传算法中指 导搜索的评价函数。 6.2 遗传算法基本流程 遗传算法的中心思想就是对一定数量个体组成的生物种群进行选择、交叉、变异等遗传操作 , 最终求得最优解或近似最优解。 遗传算法步骤 步 1 在搜索空间 U 上定义一个适应度函数 f(x) ，给定种群规模 N，交叉率 Pc 和变异率 Pm，代数 T； 精心整理 精心整理 步 2 随机 生 U中的 N个个体 s1,s2, ?,sN ， 成初始种群 S={s1,s2, ?,sN} ，置代数 数器 t=1 ； 步 3 算 S 中每个个体的适 度 f() ； 步 4 若 止条件 足， 取 S 中适 度最大的个体作 所求 果，算法 束。 步 5 行 、交叉、 异等 操作，重复以上步 ，直到达到最 果。 精心整理