凸优化理论与应用凸优化绪论.pptVIP

信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn 凸优化理论与应用 第三章 凸优化 优化问题的基本形式 优化问题的基本形式 局部最优问题 优化问题的等价形式(1) 优化问题的等价形式(2) 优化问题的等价形式(3) 优化问题的等价形式(4) 优化问题的等价形式(5) 可分离变量优化问题 优化问题的上半图形式 凸优化问题的基本形式 凸优化问题的例 凸优化问题的局部最优解 凸优化问题最优解的微分条件 凸优化问题的等价形式 凸优化问题的等价形式 凸优化问题的等价形式 凸优化问题的等价形式 准凸优化问题 准凸优化问题的上半图形式 准凸优化问题二分法求解 线性规划(linear program,LP) LP问题的几种类型 标准LP问题的转换 LP问题的例 Chebyshev center of a polyhedron Piecewise-linear minimization Linear-fractional programming 二次规划(quadratic program,QP) 二次约束二次规划 QP问题的例 Least-squares and regression Distance between polyhedra Second-order cone program, SOCP SOCP问题的例－Robust linear programming 几何规划(Geometric programming) 几何规划的凸形式转换 广义不等式约束 quadratically constrained quadratic program (QCQP) Least-squares and regression Distance between polyhedra 问题描述 问题描述 QP形式 SOCP问题的基本描述 二次锥约束条件 问题描述 其中 不是完全确定的常数。 例： 为确定的常数， 为变量，其范围满足 SOCP形式 单项式与多项式 几何规划的基本描述 * * 优化问题的基本描述： 优化变量 不等式约束 等式约束 无约束优化 最优化值 最优化解 优化问题的域 可行点(解) (feasible) 满足约束条件 可行域(可解集) 所有可行点的集合 局部最优问题 定理：若 则原优化问题与以下优化问题等价 定理：设 为一一对应，且 则原优化问题与以下优化问题等价 定理：设 为严格单调增函数； 满足 当且仅当 ； 满足 当且仅当 。则原优化问题与以下优化问题等价 定理：原优化问题与以下优化问题等价 称为松弛变量 定理：设 满足等式 成立，当且仅当 。则原优化问题与以下优化问题等价 性质： 其中 可以分离变量 定理：优化问题 凸优化问题的基本描述： 为仿射函数 为凸函数 若 为准凸函数，则优化问题称为准凸优化问题。 性质：凸优化问题的可行域是凸集。 例： 等价于凸优化问题 定理：凸优化问题的局部最优解均是全局最优解。 定理：设 为凸优化问题的可行域， 可微。则 为最优解当且仅当 成立。 定理：非约束凸优化问题中，若 可微。则 为最优解当且仅当 成立。 则 为最优解当且仅当 ，且存在向量 满足 定理：设凸优化问题仅有等式约束 则 为最优解当且仅当 ，且 定理：设凸优化问题 等价于 定理：设凸优化问题 其中 等价于 定理：设凸优化问题 为准凸函数， 为凸函数。 准凸优化问题的基本描述 注：准凸优化问题的局部最优解不一定是全局最优解。 设 为准凸函数 的凸函数族表示，即 则准凸优化问题的可行解问题为 设 为准凸优化问题的最优解，若上述问题可解，则 。否则 。 给定一个足够小的 和足够大的 ，使得区间 能包含最优解 。给定 LOOP： 令 求解