最优化方法一次B.pptVIP

* 八. 凸集与凸函数 1.凸集 （1）凸组合：已知 ， 任取k个点 ， 如果存在常数 ， ，使得 ，则称 为 的凸组合。 （2）凸集：设集合 ，如果 中任意两点的凸组合 仍然属于 ，则称 为凸集。 2.凸函数 设 ，任取 ，如果 ， 有 ，则称 为X上的（严格） 凸函数。 例子： 5. 凸规划 （1） 其中 是凸函数， 是凸集。 （2） 其中 是凸函数， 是线性函数。 水平集： 是凸函数}。 性质：水平集一定是凸集。 3. 凸函数的性质 定理. 凸函数的局部极小点就是全局极小点。 4. 凸函数的判断条件 定理1. 是凸集X上的凸函数的充要条件是 ，有 . 定理2.设 在凸集X上有二阶连续偏导数，则 是凸 函数的充要条件是 ，有 半正定。 例：正定二次函数 ，其中 是正定矩阵。 十. 算法及相关概念 1.一般迭代算法 集合S上的迭代算法A： （1）初始点 ； （2）按照某种规则A产生下一个迭代点 。 （i）如果点列 收敛于最优解 ，则称算法A收敛。 （ii）如果 ，则称算法A为 下降迭代算法。 . . . 九. 极小点的判定条件 （1）必要条件： （2）充分条件： 2.下降迭代算法步骤 （1）给出初始点 ，令 ； （2）按照某种规则确定下降搜索方向 ； （3）按照某种规则确定搜索步长 ，使得 ； （4）令 ， ； （5）判断 是否满足停止条件。是则停止，否则转第2步。 搜索步长确定方法： 称 。 为最优步长，且有 *