《无约束最优化问题.pptVIP

§ 2.2无约束最优化问题 引言 约束最优化问题：具有辅助函数和形态约束条件的优 化问题。 无约束最优化问题：没有任何限制条件的优化问题。 工程实践中大多数问题都是具有约束的优化问题。 但在优化方法的处理上可以将有约束优化问题 转化为无约束最优化问题，然后按无约束方法进行 处理。或者是将有约束优化部分转化为无约束优化 问题，即在远离极值点和约束边界处按无约束来处 理，当接近极值点和约束边界时，在按有约束的优 化问题来处理。 因此无约束优化方法是优化方法的基本组成部 分，也是优化设计中较常用的方法。 ➢ 解题一般步骤 ➢ 例 多元函数的梯度和对应矩阵 ➢ 迭代法主要解决两个问题： 如何选择一个最有利的搜索方向 使目标函数沿此方向快速下降，且计算简便。 在搜索方向既定的前提下，如何确定沿此方向 迭代的最优步长 无约束最优化方法可以分为两类：直接法和间接法。 直接法又称数值方法，它只需计算目标函数诸点的函 数数值，而不需求其导数，如坐标轮换法，单纯性法 等。 间接法又称解析法，是应用数学极值理论和解析方法， 首先计算出目标函数的一阶或一阶、二阶导数，然后 根据梯度及海赛矩阵提供的信息，构造各种算法，从 而间接地求出目标函数的最优解，如牛顿法、最速 下降法、共轭梯度法及变尺度法。