06第4章 非线性规划.pptVIP

例： 解： 取t1=1,计算： 迭代过程如下表： 1.137 0.1163 0.1169 3 -0.001061 4 1.3258 -0.5178 -0.5708 2 2 0.7854 1 1 退 出 前一页 后一页 3、非精确一维搜索法 ?数值方法的关键是从一个点迭代到下一个点。 ?确定下一个点的关键是确定搜索方向和步长 ?如果已经确定了搜索方向pk,则只要确定一个最佳的步长即可。 ?所谓的最佳步长即是在pk方向上走一个最好的长度使得目标函数下降的最多，即下述的最优化问题： ?这样的最优化问题不需要太高的精度，只要满足某些更宽松的精度要求即可。 ?这样的搜索方法称之为非精确一维搜索方法 退 出 前一页 后一页 无约束最优化方法 无约束问题的最优性条件 最速下降法 共轭方向法 1、无约束问题的最优性条件 定理1 定理2 ?梯度为0的点称为函数的驻点。 ?驻点可能是极小点，也可能是极大点，也可能即不是极大也不是极小，这时称为函数的鞍点。 ?定理2说明：UMP问题的局部最优解必是目标函数的驻点。 注： 退 出 前一页 后一页 例 解： 1、先求出目标函数的全部驻点； 2、利用充分条件判断驻点是不是最优点。 退 出 前一页 后一页 最速下降法 关于梯度的复习： ?梯度是一个向量。n元函数f(x1 ,x2 ,…xn)在某点x处的梯度为： 退 出 前一页 后一页 最速下降法计算步骤： 选区初始点x0和精度 计算 是 否 停止，输出x0 求p0= 计算t0,使 计算x1= x0+ t0 p0 退 出 前一页 后一页 例 解： 退 出 前一页 后一页 约束最优化方法 约束最优化问题的最优化条件 简约梯度法 惩罚函数法 其中 (MP) 1、约束最优化问题的最优性条件 对于 MP问题： 退 出 前一页 后一页 若x*有变化，则约束条件可能没有破坏 若x*有变化，则约束条件一定被破坏 令J表示MP的全部等式约束的下标集合，即J={1,2…q}, I表示MP的全部不等式约束的下标集合，即I={1,2…p} x*的积极约束的下标集合 退 出 前一页 后一页 定理1 对于 若x*是局部最优解,则 退 出 前一页 后一页 定理2 对于 注：定理2表明，在凸性条件下，K-T点是整体最优解。 退 出 前一页 后一页 例题 求解：minf(x)=4(x1-5)2+(x2-6)2 二、有约束非线性规划问题的求解 变量多于约束个数 （1）有等式约束非线性规划问题 转换为无约束的非线性规划问题，采用解析法，基本步骤如下： 引入拉格朗日参数，构成拉格朗日函数 求驻点，即梯度为0的点，m+n个等式 由Hesse矩阵判断是极大值还是极小值，还是不存在极值？ 代入目标函数得到最优值 例如：求解下列问题的解： 解：（1）变换模型： （2）引入拉格朗日参数，构成拉格朗日函数 （3）求一阶偏导数（梯度）： 4、令以上一阶偏导数=0，得： 5、由海赛矩阵判断问题是否存在极值点 正定 f(x*)=33 （2）有不等式约束非线性规划问题 K-T条件 3 既有等式又有不等式约束的非线性规划问题 K-T条件 定理1的说明： 2、称下述表达式为MP的Kuhn-Tucker条件，简称K-T条件 满足K-T条件的点称为MP的K-T点，定理1说明MP的局部最优解一定是MP的K-T点。 为了求出MP的最优解，可以先找出MP的K-T点，再做进一步的判断。 退 出 前一页 后一页 4、定理1的特例1 退 出 前一页 后一页 5、定理1的特例2 退 出 前一页 后一页 6、定理1的改进： 对于 若x*是局部最优解,则 互补松紧条件 退 出 前一页 后一页 7、实例说明改 进后的定理1： 定理1改进后表明：若(x1,x2)T是局部最优解，则： 退 出 前一页 后一页 互补松紧条件 退 出 前一页 后一页 例：写出K-T条件; 求出相应的K-T点; 判断K-T点是不是问题的最优解 解：由于全部函数都是连续可微的，所以应用以下K-T条件 退 出 前一页 后一页 首先写出原MP问题的K-T条件： 根据定理1,K-T点还应该满足原问题的约束条件 互补松紧条件 退 出 前一页 后一页 利用互补松紧条件，可以求出K-T点： 利用定理2，由于全部函数都连续可微，并且f和g都是凸函数，h是线性函数，所以K-T点就是整体最优解。 退 出 前一页 后一页 一维搜索问题的算法分类： ?精确一维搜索（最优一维搜索） ?非精确一维搜索（可接受一维搜索） ?两种精确一维搜索方法：0.618法，Newton法。 ?两种非精确一维搜索方法：Goldstein法,Armijo法。 4.2 非线性规划问题的解 1、0.618法（近似黄金分割法） 单谷函数 退 出 前一页 后一页 非线性规划基本