第5章直接搜索数值解法.pptVIP

1 绪论 最优化方法的数值解法是利用已有的各种条件，通过迭代过程来获得最优解的方法。本章主要介绍迭代算法且主要针对非线性数学问题。 所谓迭代法，就是一种逐次逼近的方法。简单地说，这种方法就是先给出接近函数f(x)的极小点的初始点，然后用某个固定的公式反复校正极值问题的近似解，使之逐渐精确化，最后收敛于达到满足精度要求的结果。 当前第1页\共有36页\编于星期三\7点 1 绪论 无约束最优化问题的经典解法中，都必须求其函数的导数。但是很多实际问题往往难以求出目标函数f(X)关于X的偏导数。这时就放弃求偏导的方法，而直接从分析目标函数f(X)的特征、信息出发，构造一种逐次使目标函数值下降（或上升）的搜索方法。 当前第2页\共有36页\编于星期三\7点 1 绪论 搜索方法是迭代算法中的一种。它由搜索方向S(k)和步长因子αk构成每一次迭代的修正量，为决定其算法的好坏的重要因素。各种算法的区别在于确定S(k)与αk的不同，尤其是搜索方向。 当前第3页\共有36页\编于星期三\7点 1 绪论 搜索方法主要分成两类： （1）直接搜索法——只需要进行函数值的计算与比较来确定最优化的方向和步长。 （2）间接搜索法——需要利用函数的一阶、二阶导数及偏导数矩阵来确定最优方向和最优步长。 当前第4页\共有36页\编于星期三\7点 2 进退法 进退法的基本思想是，每次搜索都