五种最优化方法.pdf

实用标准文案 五种最优化方法 1. 最优化方法概述 1.1 最优化问题的分类 1）无约束和有约束条件； 2 ）确定性和随机性最优问题（变量是否确定） ； 3 ）线性优化与非线性优化（目标函数和约束条件是否线性） ； 4 ）静态规划和动态规划（解是否随时间变化） 。 1.2 最优化问题的一般形式（有约束条件） ： 式中 f(X) 称为目标函数 (或求它的极小，或求它的极大 ) ，si(X) 称为不等式约 束， hj(X) 称为等式约束。化过程就是优选 X ，使目标函数达到最优值。 2. 牛顿法 2.1 简介 1）解决的是无约束非线性规划问题； 2 ）是求解函数极值的一种方法； 3 ）是一种函数逼近法。 2.2 原理和步骤 精彩文档 实用标准文案 3. 最速下降法（梯度法） 3.1 最速下降法简介 1）解决的是无约束非线性规划问题； 2 ）是求解函数极值的一种方法； 3 ）沿函数在该点处目标函数下降最快的方向作为搜索方向； 3.2 最速下降法算法原理和步骤 精彩文档 实用标准文案 4. 模式搜索法 (步长加速法 ) 4.1 简介 1）解决的是无约束非线性规划问题； 2 ）不需要求目标函数的导数，所以在解决不可导的函数或者求导异常麻烦的函 数的优化问题时非常有效。 3 ）模式搜索法每一次迭代都是交替进行轴向移动和模式移动。 轴向移动 的目的 是探测有利的下降方向，而 模式移动 的目的则是沿着有利方向加速移动。 4.2 模式搜索法步骤 精彩文档 实用标准文案 5. 评价函数法 5.1 简介 评价函数法是求解多目标优化问题中的一种主要方法。在许多实际问题中， 衡量一个方案的好坏标准往往不止一个，多目标最优化的数学描述如下： min (f_1(x),f_2(x),...,f_k(x)) s.t. g(x)<=0 精彩文档