凸优化(08.27).docVIP

凸优化总结 1基本概念 凸集合：是凸集，如果其满足： 几何解释：，则线段[x,y]上的任何点都 仿射集：是仿射集，如果其满足： 几何解释：，则穿过x, y的直线上的任何点都 子空间：是子空间，如果其满足： 几何解释：，则穿过x, y，0的平面上的任何点都 凸锥：是凸锥，如果其满足： 几何解释：，则x, y之间的扇形面的任何点都 集合C是凸锥的充分必要条件是集合C中的元素的非负线性组合仍在C中，作为一般化结果，其中非负线性组合的数目可以推广到无穷 超平面：满足的仿射集，如果b=0则变为子空间 半空间：满足的凸集，如果b=0则变为凸锥 椭球体：球心 范数：f：Rn—R是一种范数，如果对所有的满足 范数分类 1范数 2范数 3无穷范数 有效域：集合 水平集：，其中为一标量 上镜图：函数的上镜图由下面的集合给定给出的给出的子集。 多面体：有限数目半空间集合的交集 共轭函数：f：Rn—R上的共轭函数定义为：，是凸函数即使不是 Jensen 不等式： f：Rn—R上的凸函数 两点 多点 连续 一般情况 凸函数：设C是上的凸子集，如果 则函数称为凸函数 凸函数一阶可微定义 如果f一阶可微，则f是凸函数等价于对于所有的， 凸函数二阶可微定义 如果f二阶可微，则f是凸函数等价于， 常见的凸，凹函数 线性函数和仿射函数都是凸函数 二次函数是凸函数等价于 任意求范数操作是凸函数 在是凸的; 凹的 在是凹的,在是凸的 是凸的 |x|, max(0, x), max(0,?x) 是凸的 是凹的 2规划问题分类 线性规划linear program 目标函数和等式限制函数都是仿射函数的规划 Minimize Subject to 目标函数中d可以消除，不会改变其凸性。线性规划的几何解释是仿射集形成的多面体上求解目标函数的最小值。应用中存在等效问题转化，不等式限制变等式限制，等式限制中的变量求出其反函数表达式来消除等式限制，以及找到一些松弛变量，例如如果存在最优解x，必然相应的-f(x)小于0。 例子：切比雪夫多面体求解中心 注：多项式max fi(x)t转换到fi(x)t，i=1,…m，本质也是一种松弛。 线性分式规划linear-fractional program 目标函数是仿射函数的比值 Minimize Subject to 其中，目标函数为准凸函数，故该规划为准凸优化问题。一般来说，通过构造新变量，将准凸优化问题转化为新变量的凸问题来解决，利用原变量和新变量的关系求出。这种方法比较常用，实现凸优化问题的等效变化，可以使得问题得以简化，例如将目标函数设为新变量进行优化，求解新变量的反函数实现原优化问题解 二次规划quadratic program (QP) 目标函数是二次函数，限制条件是仿射函数 Minimize Subject to 其中P是半正定矩阵，上式中的不等式限制也可以是二次函数限制，此时优化问题转化为二次约束二次规划quadratically constrained quadratic program (QCQP)问题。此外，线性规划可以视为二次规划的特殊情况(P=0)。二次规划问题首先是解决约束P是半正定的，则问题马上可以得以解决。否则，问题的求解形式变得比较困难，即使任意一个不是半征定的。QCQP问题当i=1时，不用考虑凸和非凸问题，可以求解。对于i=2的情况，如果有一个不是半征定，可以通过SDP问题，进行求解（Luo on research）。i其他情况，如果有一个不是半征定，NP-hard问题，难以解决。想办法求最有近似解。 几何解释 例子：带限制下的最小误差问题：，还有两个多面体之间的距离问题，此外，可以考虑二次规划和信道估计误差相结合，限制条件是误码率小于限定值或者容量大于限定值，限制条件可以增加不断细化问题。 二阶锥规划second-order cone program (SOCP) 二阶锥规划是特殊的二次规划形式 Minimize Subject to 其中，为二阶锥限制，如果c=0 则转化为二次限制二次规划问题QCQP问题，如果A=0，则转化为线性规划问题，LP。可见SOCP问题要比LP以及QCQP要更具有普遍性。 例子：鲁棒线性规划可视为二次锥规划 Minimize Subject to ? 转化为SOCP问题 Minimize Subject to 大部分鲁棒线性规划问题可视为二次锥规划问题来处理，例如，误差的方差小于特定的概率，最小表面问题，连续积分离散化求和。 几何规划geomet-ric program (GP). 单项式函数：，在此情况下， 仿射函数，故凸 束函数： 几何规划的表示形式： Minimi