《运筹学（第2版）》孔造杰OR2-Ch11-非线性规划.pptVIP

河北工业大学管理学院 孔造杰 制作 第十一章 非线性规划Nonlinear Programming §11-1 非线性规划概述 §11-2 一维搜索 §11-3 无约束优化 §11-4 有约束优化 §11-5 投资组合决策分析 §11-6 非线性规划的计算机求解 §11-1 非线性规划概述 一、非线性规划的一般模型： 二、极值问题 定义 定义3：对于非线性规划模型(1)，设有点 X*∈Ω 使得 对一切X∈Ω成立，就称X*是 f 在Ω上的全局极小点；若对于一切 X∈Ω(X≠X*),有 成立，则称X*是f 在 Ω上的严格全局极小。 2. 梯度概念 若 f(X) 具有一阶连续偏导，则称 下式为梯度。 事实上，对X的任意分量xi而言，xi*也是 的局部极小点，由一元函数的极值的必要条件有 3。Hesse（海赛）矩阵 对于具有二阶连续偏导数的函数f(X)，称下述实对称矩阵为海赛（Hesse)矩阵： 二次型ZT为正定的充要条件，是矩阵A的左上角各阶主子式都大于零；而它为负定的充要条件是矩阵A的左上角各阶主子式负正相间。 考虑n阶对称海赛矩阵H，如果二次型为正定、负定或不定时，则称矩阵H分别为正定、负定或不定。 可以证明：二元函数f(X)在驻点X* （即?f(x*) =0 )）处取得严格局部极小值（或局部极小值）的充分条件是海赛矩阵H(X)正定（或半正定）。即： 例11-1：试求下面函数的极值点和极值。 三、凸函数 1. 凸集： 几何上，集合内任意两点的连线上的点都在此集合内。 解析上，对于点集D:x1 ,x2 ∈D，则： 类似的可以定义凹函数： 几何上：弦在曲线之下； 解析上：任意两点x 1 ,x 2 ,对于函数f ( x)有： 3. 凸函数的判断 根据定义判断，弦在曲线上，即弦＞曲 根据定理判断，曲＞切，即 二阶条件：在n维欧氏空间En中， 有一个凸集Ω，f (x)在其上具有二阶的连续偏导数，则f(x)为凸函数的充要条件为其海赛矩阵为正定或半正定。 4. 凸函数的极值 一般而言，局部极小不等于全局极小； 对于凸函数而言，任一局部极小就等于全局极小。 四、无约束下降类算法步骤 采用逐步迭代算法： §11-2 一维搜索 一维搜索即求单变量函数的极值问题，其方法很多，可概括为二类 （1）试探法： 分数法；0.618法 （2）插值法： 切线法；抛物线法 §11-2 一维搜索——分数法（Fibonacci方法） 原理： 思想：函数f(t)在[a , b ]区间内有极小点t* ，逐步缩小该区间直至[ar ,br ]，使其宽度满足精度要求为止。 取点：可以证明，按Fibonacci方法取点是最优的。 （见邓乃杨所著《运筹学》） Fibonacci级数 §11-2 一维搜索——分数法（Fibonacci方法） 算法步骤： 根据精度要求确定取点数n： 精度要求有：绝对精度： 相对精度： §11-2 一维搜索——分数法（Fibonacci方法） 第一取点，取两点t1，t1’，按 Fn-1/Fn 的比例。 §11-2 一维搜索——分数法（Fibonacci方法） 第二次取点，取一点t2(或t2’)，从t1和t1’中选择函数值较大者，作为新的边界点。如图： §11-2 一维搜索——分数法（Fibonacci方法） 第k次取点，取点tk （或tk’）如图 所示： §11-2 一维搜索——分数法（Fibonacci方法） §11-2 一维搜索——分数法（Fibonacci方法） §11-2 一维搜索——分数法（Fibonacci方法） §11-2 一维搜索——分数法（Fibonacci方法） 二、0.618法（黄金分割术） 在Fibonacci搜索法中，若用n个点来缩短区间长度时，其各次缩短率分别为： 事实上，fibonacci搜索法的缩短率的极限为： 设f(x)是区间[a，b]上只有一个极小点的单峰函数，给定精度ε 三、切线法（Newton法） 分数法和0.618法只是对给定区间上的部分点的函数值进行了比较，而函数的一些解析性质却丝毫未被利用。而切线法却较好的利用了函数的解析性质。 假定f(x)是区间[a,b]上仅有一个极值点的单峰函数，且具有三阶导数。 如果f(x)在x*处取得极小值，则必有f ’(x*)=0。因此，只要求出f ’(x ) 在区间[a,b]上的零点即求得极小值。 切线法的一般计算步骤如下： §11-3 无约束极值问题 一、