运筹学OR2-Ch11-非线性规划.pptVIP

例2-8： 试验证h(x)与g1(x)=0的交点A是否为最小点。 §11-4 有约束极值——最优性条件 * Page * of 88 解：A点的坐标为： (1) 是否满足K—T条件 ①X*∈R，可行 ②正则点： ，两者线性无关。 由μjgj(X*)=0, 得μ2=0 §11-4 有约束极值——最优性条件 * Page * of 88 令 得到 切线与横轴的交点x1 令 得与x轴的交点： 如此迭代，直至满足所要求的精度为止。 类似的再在[x1,f ’(x1)]处作切线,其方程为： §11-2 一维搜索——切线法（Newton法） * Page * of 88 切线法的一般计算步骤如下： yes no §11-2 一维搜索——切线法（Newton法） * Page * of 88 2.???????? 是凹函数，即 [注：此种情况的任给初始点x0只能在a 端附近，而不能在b端附近,其余的均与上相同。] 例2-3：求 在区间[1，5]上的极小点，精度要求为 解：由 可知在区间[1，5]上 有唯一的极小点，不难看出这个极小点是 。在靠近右端值5附近，取一初始值 ，显然有： §11-2 一维搜索——切线法（Newton法） * Page * of 88 现有 ，故停止迭代。 得到近似极小点为3.0001，近似极小值为: §11-2 一维搜索——切线法（Newton法） * Page * of 88 作业：教材 §11-2 一维搜索——切线法（Newton法） * Page * of 88 §11-3 无约束极值问题 这里 表示 为n维欧氏空间的一个 点，或是一个n为向量，而 f(x) 则表示一个n元函数。 n元函数的无约束极值问题的一般表达式为： n元函数的极值问题的解法大体上分为两类：解析法和直接法。 * Page * of 88 这里的方向 p(0) 和步长 λ0 是待定的，为了使函数 f(x) 的值在x(0)点沿p(0)方向移动步长λ0之后有所下降，将 f(x) 在点展成泰勒级数： 一、最速下降法（梯度法） 此法是1847年由柯西（Cauchy）给出的，它是解析法中最古老的一种，其它方法或是它的变形或是受它的启发而得到的，因此，它是最优化方法的基础。 算法思想：设目标函数 f(x) 二次连续可微且有极小点 x* ，取一初始近似点x(0) 作射线 §11-3 无约束极值问题——最速下降法（梯度法） * Page * of 88 其中： 为函数 在 点的梯度。 则有： 为保证 即选定的方向p(0) 该与该点的梯度的内积要小于0，也即： 必须使得： §11-3 无约束极值问题——最速下降法（梯度法） * Page * of 88 即函数f(x)在点x(0)处沿梯度的反方向是函数值下降最快的方向，所以我们称这个方法为梯度法。由此我们得到： 推而广之，梯度法的一般公式为： 剩下的问题就是如何确定步长 §11-3 无约束极值问题——最速下降法（梯度法） * Page * of 88 下面介绍两种确定步长 λk 的方法。 (1) 定步长法：每次迭代的λk 都取相同的值λ，不过这时的搜索方向p(k)应取单位向量，即： 此法的优点是简单，而缺点是步长取多大合适没有明确标准，若取的过小，则收敛太慢；步长过大又很难满足 的要求，甚至造成往复振荡而达不到极小点。 §11-3 无约束极值问题——最速下降法（梯度法） * Page * of 88 (2) 最速下降法： λk不取固定的值，而是与x(k)有关的一个变量。 柯西给出了一个最优步长梯度法——最速下降法，此法要求从 x(k) 点沿方向 走下去达到极小点，由此确定步长λk ： 即： 也就是说，要沿着负梯度方向进行一维搜索，确定出使f(x) 达到该方向极小化的λk 。此方法固然最优，但也太繁杂。为此，我们还可以求出一个近似的最优步长，将此函数展成泰勒级