优化问题的经典解法.pdfVIP

第 4 章 优化问题的经典解法 Chapter 4 Classical Optimization （ ） 4-1 优化问题的最优解 Optimum solution 4-1-1 无约束最优解、约束最优解 * * * T * 所谓优化问题的最优解 变量的最优点 x1 , x2 , xn + 函数的最优值 f X （ ） Optimum point + Optimum value 。根据优化问题是否存在约束， 有无约束最优解及有 约束最优解之分。 1) 无约束最优解 使函数取得最小 Minima 最大 Maxima ）值的解称之，见图 4-1 。 （ 图 4-1 2) 约束最优解 使函数取得最小（最大）值的 可行解 称之。情况要比无约束问题复杂，见二维问题的示 意图 4-2 。 约束不起作用 一个起作用约束 二个起作用约束 线性规划问题 图 4-2 1 4-1-2 局部最优解解和全局最优解 （Relative or local Absolute or global minimum ） 以一维问题为例，对于无约束优化问题，当目标函数不是单峰函数时，会出现多个极 * * * * * * 值点 x , x , x , ，对应的函数值为 f (x ), f (x ), f (x ), 。每一个极值点在数学上称为 1 2 3 1 2 3 局部最优点， 它们中间的最小者才是全局最优点。 对于约束优化问题， 情况就要更复杂一些， 目标函数、 约束函数的特性都会使得可行域内出现二个以上的局部极小点， 其中函数值最小 者，称为全局最优点。 P16 Fig3.2 , P30 图 2-10 清华 本课程中讲述的所有优化方法目前只能求出局部最优解， 而优化设计的目的是要追求全 局最优解。 因此，除了凸规划问题以外， 要进行局部最优解之间的比较，选择出问题的全局 最优解来。 P12 4-2 凸集、凸函数与凸规划 4-2-1 凸集 （Convex set） 函数的凸集表现为其单峰性 （Unimodal ）。 对于具有凸性的函数而言，其极值点只有 一个，该点即是局部极值点， 也是全局最优点。 为了研究函数的凸性， 首先引入凸集的概念。 P12~13 n ( 1) (2 ) 定义