运筹学 第4章_非线性规划.pptVIP

线搜索框架下的迭代算法 (a) 凸函数 (b)凹函数 §4.4 无约束最优化方法 最速下降法的计算步骤： 3. 共轭方向法 §4.4 无约束最优化方法 §4.4 无约束最优化方法 3. 共轭方向法 第*页 运 筹 帷 幄 之 中 决 胜 千 里 之 外 第4章 非线性规划 Non-linear Programming §4.1 基本概念 §4.2 凸函数和凸规划 §4.3 一维搜索方法 §4.4 无约束最优化方法 §4.5 约束最优化方法 第4章 非线性规划 1. 非线性规划问题 例4.1.1 曲线的最优拟合问题 §4.1 基本概念 例2 构件容积问题 §4.1 基本概念 1. 非线性规划问题 数 学 规 划 约束集或可行域 MP中目标函数和约束函数中至少有一个不是x的线性函数，称(MP)为非线性规划 §4.1 基本概念 MP的可行解或可行点 向量化表示 当p=0,q=0时，称为无约束非线性规划或者无约束最优化问题。 否则，称为约束非线性规划或者约束最优化问题。 §4.1 基本概念 最优解和极小点 §4.1 基本概念 最优解和极小点 §4.1 基本概念 例： 非线性规划的图解法 2 ) ( = x f A B 2. 非线性规划方法概述： §4.1 基本概念 基本迭代格式 §4.1 基本概念 第 1 步 选取初始点 0 x ， k:=0; 第 2 步 构造搜索方向 k p ； 第 3 步 根据 k p ，确定步长 k t ； 第 4 步 令 k k k k p t x x + = + 1 ， 若 1 + k x 已满足某种终止条件，停止迭代，输出 近似解 1 + k x ；否则令 k :=k+1 ，转回第 2 步。 §4.2 凸函数和凸规划 1. 凸函数的定义 §4.2 凸函数和凸规划 §4.2 凸函数和凸规划 2. 凸函数的一些基本性质 注：一般来说上述定理的逆是不成立的。 §4.2 凸函数和凸规划 2. 凸函数的一些基本性质 §4.2 凸函数和凸规划 2. 凸函数的一些基本性质 各阶主子式负正相间（第一个为负） 3.凸规划的定义 约束集 如果(MP)的约束集X是凸集，目标函数f是X上的凸函数，则(MP)叫做非线性凸规划，或简称为凸规划。 §4.2 凸函数和凸规划 定理 4.2.6 凸规划的任一局部最优解都是它的整体最优解。 §4.2 凸函数和凸规划 4.凸规划的性质： 本节练习 1. 验证 §4.3 一维搜索方法 精确一维搜索方法： 0.618法， Newton法 非精确一维搜索方法： Goldstein法， Armijo法 1. 0.618法（近似黄金分割法） §4.3 一维搜索方法 2. Newton法 §4.3 一维搜索方法 第 1 步 给定初始点 1 t ， 0 e ， 1 : = k ； 第 2 步 如果 e j ￠ ) ( k t ，停止迭代，输出 k t 。 否则，当 0 ) ( = ￠ ￠ k t j 时，停止， 解题失败； 当 0 ) ( 1 ￠ ￠ k t j 时，转下一步； 第 3 步 计算 ) ( ) ( 1 k k k k t t t t j j ￠ ￠ ￠ - = + ，如果 e - + k k t t 1 ，停止迭代，输出 1 + k t 。 否则 1 : + = k k ， 转第 2 步。 3. Goldstein法 §4.3 一维搜索方法 Goldstein法步骤: §4.3 一维搜索方法 4. Armijo法 §4.3 一维搜索方法 取定 M m 1 0 ，用一下两个式子限定 k t 不太大也不太小： ) 0 ( ) 0 ( ) ( j j j ￠ + ￡ k k mt t ) 0 ( ) 0 ( ) ( j j j ￠ + k k mMt Mt §4.4 无约束最优化方法 无约束问题的最优性条件 最速下降法 共轭方向法 1、无约束问题的最优化条件 §4.4 无约束最优化方法 §4.4 无约束最优化方法 1、无约束问题的最优化条件 2. 最速下降法（又称梯度法） §4.4 无约束最优化方法 第*页