第讲非线性规划基本知识.pptVIP

例3：求下列函数的梯度： ① 例4 求目标函数 f（X）= 的梯度和Hesse矩阵。 解： 则 又因为： 故Hesse阵为： （2）局部极值和全局极值 （4）多元函数的泰勒公式 多元函数Taylor展开式在最优化理论中十分重要。许多方法及其收敛性的证明都是从它出发的。下面就给出多元函数Taylor展开式： 给出 极小点的一个初始估计值 4) 计算机迭代时终止计算的准则 （1）黄金分割法：适用于一般的函数。（试探法） （2）二次插值法： （3）Newton切线法：适用于 的一阶导数和二阶导数都可求出的情况。（函数逼近法） 1 搜索区间的确定 定义1：设 ，t*是 在L 上的全局极小点。如果对于L上任取的两点 和 且 均有 ≤t* ，当 ≥t*时， 则称 是区间L上的单谷函数。 以下假设一元函数 是单谷函数。  定义2： ，t*是 在L上的全局极小点。若找到 ,则称此区间 为 的极小点的一个搜索区间，。 单谷函数的性质： 设 是单谷函数极小点的一个搜索区间。在 上任取两点 ，使 ,若 则 是 极小点的一个搜索区间；若 ，则 是 极小点的一个搜索区间。 单谷函数的这一性质可用来将搜索区间无限缩小，以至求到极小点。 本章下面就介绍一维搜索法. 步骤： 1 给出初始区间 及精度 ，计算试探点 试探点的公式为： 左试点 右试点 为了算法描述方便我们记试点如下： 及函数值 令k=1 2 若 停止计算， 中任意一点均可作为所求极小点的近似。否则当 时转3，当 时转4； 3 置 计算 转5； 4 置 计算 转5； 5 令 k=k+1返回2 例8 用0.618法求解下列问题 初始区间为 计算结果列于下表： 1 -1 1 -0.236 0.236 -0.653 -1.125 2 -0.236 1 0.236 0.528 -1.125 -0.970 . -1 . 1 0 . . . . 3 -0.236 0.528 0.056 0.236 -1.050 -1.125 4 0.056 0.528 0.236 0.348 -1.125 -1.106 5 6 0.168 0.348 0.236 0.279 -1.125 -1.123 7 0.168 0.279 0.056 0.348 0.168 0.236 -1.112 -1.125 3 二次插值法 考虑问题 二次插值法是以目标函数的二次插值函数的极小点作为新的中间插值点，进行一维搜索的方法。 假设初始区间函数值呈现“两端大中间小”的3个点所确定的区间，三个点为 ，对应的函数值为 。令 ，过这三个点 ，可确定二次插值函数 （1） （2） （3） 将式（2）和式（3）联立解得 将区间内的3个点及其函数值分别代入式(2),得到含三个未知数 的方程组： （4） * * * * 非线性规划基本概念 （1学时） 一维搜索 （1学时） 重 点：下降