五种最优化方法[规整].docxVIP

方 法 汇 编 20XX method E 五种最优化办法 最优化办法概述 1.1最优化问题的分类 1）无束缚和有束缚条件； 2）确认性和随机性最优问题（变量是否确认）； 3）线性优化与非线性优化（方针函数和束缚条件是否线性）； 4）静态规划和动态规划（解是否随时刻改变）。 1.2最优化问题的一般方式（有束缚条件）： 式中f(X)称为方针函数(或求它的极小，或求它的极大)，si(X)称为不等式束缚，hj(X)称为等式束缚。化进程便是优选X，使方针函数到达最优值。 2.牛顿法 2.1简介 1）处理的是无束缚非线性规划问题； 2）是求解函数极值的一种办法； 3）是一种函数迫临法。 2.2 原理和过程 3. 最速下降法（梯度法） 3.1最速下降法简介 1）处理的是无束缚非线性规划问题； 2）是求解函数极值的一种办法； 3）沿函数在该点处方针函数下降最快的方向作为查找方向； 3.2 最速下降法算法原理和过程 4. 形式查找法(步长加快法) 4.1 简介 1）处理的是无束缚非线性规划问题； 2）不需要求方针函数的导数，所以在处理不行导的函数或许求导反常费事的函数的优化问题时十分有用。 3）形式查找法每一次迭代都是替换进行轴向移动和形式移动。轴向移动的意图是勘探有利的下降方向，而形式移动的意图则是沿着有利方向加快移动。 4.2形式查找法过程 5.点评函数法 5.1 简介 点评函数法是求解多