非线性最优化精要.ppt

非线性最优化 非线性最优化的基本概念 一维搜索 无约束极值问题的解法 最优性条件 有约束极值问题的解法 二次规划 可行方向法 制约函数法 第一节 基本概念1.1 非线性问题的提出 例1 某公司经营两种设备，第一种设备售价30元，第二种设备售价450元。根据统计，售出一件第一种设备所需要的营业时间平均是0.5小时，第二种设备是(2+0.25 x2 )小时,其中x2是第二种设备的售出数量。已知该公司在这段时间内的总营业时间为800小时，试决定使其营业额最大的营业计划. 分析：设该公司经营第一种设备x1件,第二种设备 x2 件，其营业额为f(X)，依题意列出问题的数学模型： maxf(X)=30 x1 +450 x2 s.t. 0.5 x1 + (2+0.25 x2 ) x2 ≤ 800  x1 ≥0, x2 ≥0 例1的目标函数为自变量的线性函数，但 其第一个约束条件却是自变量的二次函数， 因而它是非线性规划问题。 若规划问题的目标函数及约束函数中至少 有一个是非线性函数,则称这种规划为非线性 规划。 非线性规划的数学模型 非线性规划的数学模 型常表示成以下形式 Minf(X) hi(X)=0 i=1,2, … ,m gj(X) ≥ 0 j=1,2, … ,l 非线性规划的数学模型 可以写成以下形式 Minf(X) gj(X) ≥ 0 j=1,2, … ,l 1.2 极值问题 设f(X)为定义在n维欧氏空间 En 的某一区 域S上的n元实函数，其中X=(x1 ,x2 … xn)T . 局部极小点(值)：对于 X* ∈S，如果存在 某ε0,使所有与X* 的距离小于ε的X∈S,均满足不等式f(X)≥f(X* ),则称X* 为f(X)在S上的局部极小点, f(X* )为局部极小值。 严格局部极小点(值)：对于所有X≠X* 且 与X*的距离小于ε的X∈S,f(X)f(X* ),则称 X* 为f(X)在S上的严格局部极小点， f(X* )为 严格局部极小值。 全局极小点(值)：对于所有的X ∈S，都 有f(X)≥f(X* ),则称X* 为f(X)在S上的全局 极小点，f(X* )为全局极小值。 严格全局极小点(值)：对于所有X∈S且 X≠X* ，都有f(X) f(X* ),则称X* 为f(X)在 R上的严格全局极小点，f(X* )为严格全局极 小值。 将上述不等式反向，即可以得到相应的 极大点和极大值的定义。 极值点存在的必要条件和充分条件 定理1 (必要条件)设S是n维欧氏空间En 上 的某一开集，f(X)在S上有一阶连续偏导数， 且在点X* ∈S取得局部极值，则必有 或 其中 为函数f(X)在点X* 处的梯度。 1.3 凸函数和凹函数 凸函数:设f(X)是定义在n维欧氏空间En 中某个 凸集S上的函数, 若对任何实数a(0a 1)以及S中的 任意两点X(1)和X(2),恒有 f(aX(1)+(1-a) X(2)) ≤ af(X(1))+(1-a)f(X(2)) (1.5) 则称f(X)为定义在S上的凸函数. 凸函数的性质 性质1 设f(X)为定义在凸集S上的凸函数, 则对任意实数b≥ 0,函数bf(X)也是定义在S上的凸函数. 性质2 设f1(X)和 f2(X)为定义在凸集S上的两个凸函数,则其和f(X)= f1(X)+f2(X)仍为定义在S上的凸函数. 性质3 设f(X)为定义在凸集S上的凸函数,则对任一实数b,集合 Sb ={X|X ∈S ,f(X) ≤b} 是凸集(Sb称为水平集). 函数凸性的判定 定理3（一阶条件）设S为n维欧氏空间 En 上的开凸集,f(X)在S上具有一阶连续偏导 数,则f(X)为S上的凸函数的充要条件是,对任 意两个不同点X(1) ∈S和X(2) ∈S,恒有 f(X(2) )≥f(X(1) )+▽f(X(1) )T(X(2) -X(1)) 定理4(二阶条件)设S为n维欧氏空间 En 上的开凸集, f(X)在S上具有二阶连续偏导