非线性规划基本知识.pptVIP

例3：求下列函数的梯度： ① 例4 求目标函数 f（X）= 的梯度和Hesse矩阵。 解： 则 又因为： 故Hesse阵为： （2）局部极值和全局极值 （4）多元函数的泰勒公式 多元函数Taylor展开式在最优化理论中十分重要。许多方法及其收敛性的证明都是从它出发的。下面就给出多元函数Taylor展开式： 给出 极小点的一个初始估计值 4) 计算机迭代时终止计算的准则 （1）黄金分割法：适用于一般的函数。（试探法） （2）二次插值法： （3）Newton切线法：适用于 的一阶导数和二阶导数都可求出的情况。（函数逼近法） 1 搜索区间的确定 定义1：设 ，t*是 在L 上的全局极小点。如果对于L上任取的两点 和 且 均有 ≤t* ，当 ≥t*时， 则称 是区间L上的单谷函数。 以下假设一元函数 是单谷函数。  定义2： ，t*是 在L上的全局极小点。