非线性规划的基本概念.ppt

（1）微分学方法的局限性：?实际的问题中，函数可能是不连续或者不可微的。?需要解复杂的方程组，而方程组到目前仍没有有效的算法。?实际的问题可能含有不等式约束，微分学方法不易处理。6非线性规划方法概述第31页，共78页，星期日，2025年，2月5日（2）数值方法的基本思路：迭代给定初始点x0根据x0,依次迭代产生点列{xk}{xk}的最后一点为最优解{xk}有限{xk}无限{xk}收敛于最优解第32页，共78页，星期日，2025年，2月5日迭代格式xkxk+1pk称pk为第k轮搜索方向，tk为第k轮沿pk方向的步长。产生tk和pk的不同方法，形成了不同的算法。第33页，共78页，星期日，2025年，2月5日定义：特殊搜索方向——下降方向第34页，共78页，星期日，2025年，2月5日定义：特殊搜索方向——可行下降方向解非线性规划问题，关键在于找到某个方向，使得在此方向上，目标函数得到下降，同时还是可行方向。这样的方向称为可行下降方向。第35页，共78页，星期日，2025年，2月5日定义：算法收敛、下降迭代算法集合S上的迭代算法：（1）初始点；（2）按照某种搜索方向pk产生下一个迭代点（i）如果点列收敛于最优解，则称此算法收敛。（ii）如果，则称此算法为下降迭代算法。...第36页，共78页，星期日，2025年，2月5日（3）下降迭代算法步骤（1）给出初始点，令；（2）按照某种规则确定下降搜索方向；（3）按照某种规则确定搜索步长，使得；（4）令，；（5）判断是否满足停止条件。是则停止，否则转第2步。搜索步长确定方法：称为最优步长，且有对?k的梯度第37页，共78页，星期日，2025年，2月5日（4）终止条件②④①③第38页，共78页，星期日，2025年，2月5日（5）常用的收敛性判别准则:（１）点收敛准则:(可取Rn中任一种模)。e￡--)1()(kkxx·（２）目标函数值准则：（绝对差）。e￡--)()()1()(kkffxx（３）目标函数值准则：（相对差）。e￡--)()()()()1()(kkkfffxxx取其中之一,也可同时取(1)与(2);(1)与(3);或(1),(2)和(3)等。第39页，共78页，星期日，2025年，2月5日（6）算法的收敛速度则称的收敛阶为。设算法所得的点列为，如果1.线性收敛（当k充分大时）：2.超线性收敛：3.二阶收敛：（*）式中?=2时成立。（*）第40页，共78页，星期日，2025年，2月5日单变量(一维)最优化一维最优化问题进退法黄金分割法抛物线搜索法三次插值法第41页，共78页，星期日，2025年，2月5日下降迭代算法中最优步长的确定..一维最优化问题：解析的方法（极值点的必要条件）一、一维最优化问题第42页，共78页，星期日，2025年，2月5日1.单峰函数定义：设是区间上的一元函数，是在上的极小点，且对任意的有（a）当时，（b）当.....则称是单峰函数。..第43页，共78页，星期日，2025年，2月5日性质：通过计算区间[a,b]内两个不同点的函数值，就可以确定一个包含极小点的子区间。定理设是区间上的一元函数，是在上的极小点。任取点则有（1）如果，则（2）如果则.....第44页，共78页，星期日，2025年，2月5日2搜索法求解：或基本过程：?给出[a,b],使得x*在[a,b]中。[a,b]称为搜索区间。?迭代缩短[a,b]的长度。?当[a,b]的长度小于某个预设的值，或者导数的绝对值小于某个预设的正数，则迭代终止。第45页，共78页，星期日，2025年，2月5日二．进退法思想从一点出发,按一定的步长,试图确定出函数值呈现“高-低-高”的三点。一个方向不成功，就退回来，再沿相反方向寻找。进退法的计算步骤如何确定包含极小点的一个区间？第46页，共78页，星期日，2025年，2月5日例：第47页，共78页，星期日，2025年，2月5日假定：已经确定了单峰区间[a,b]x1x2ababx12新搜索区间为[a,x2]新搜索区间为[x1,b]三.黄金分割法（0.618法）第48页，共78