王亮 翻译(终).docVIP

3 凸函数 基本性质和实例 操作维持它的凸性 共轭函数 拟凸函数 对数凹和对数凸函数 广义凸方面的不等式现象 定义 是凸的如果当是一个凸集和当对于所有的，。 如果是凸的则就是凹的。 如果是凸的和对于所有的都有成立，则就是严格凸的。 上的例子 凸方面： 仿射：对于任何，都在上。 指数：对于任何，有。 权值：对于，都在上。 绝对值的权值：对于，都在上。 负熵：在上。 凹方面： 仿射：对于任何，都在上。 权值：对于，都在上。 对数：在上。 和上的例子 仿射函数是凸的和凹的;所有规范都是凸的。 上的例子： 仿射函数 规范：对于都有； 上的例子（矩阵） 仿射函数 光谱（最大奇异值）规范 。 在一条线上对凸函数的限制 是凸的当且仅当函数，，是凸的对于任意可以检查的凸性通过检查一个变量的函数的凸性。 举例：和 在这里是的一个特征值， 在内是凹的（对于的任何选择）；因此是凹的。 延长价值的延伸 的延长价值的延伸是 往往简化符号；例如，在条件 （作为一种不等量在中），是指相同的两个条件 是凸的 对于，有 一阶条件 是可微的如果是开放的和梯度 在每个处存在。 一阶条件：微分的凸域是凸的如果 对于所有都成立。 二阶条件 是二次微分如果是开放的和Hessian 在每个处存在。 二阶条件：对于有凸域的二次微分 是凸的当且仅当 ，对于所有的 如果对于所有都成立，则是严格凸的。 例子 二次函数： 是凸的如果。 最小二乘目标： 是凸的（对于任意的）。 二次超线性： 是凸的对于。 对数和指数：是凸的 为了表明，我们必须确认对于所有的： 自 几何平均值：在是凹的。 引语和分段集 的分段集： 凸函数的分段函数还是凸的。 的引语： 是凸的当且仅当是一个凸集。 Jensen不等式 基本不等式：如果是凸的，则对于有 。 延伸：如果是凸的，则。 对于任何随机变量 基本不等式是特殊情况下的离散分布 。 保持凸性的函数 建立凸函数的切实可行的方法。 验证的定义（通常是通过限制到到一条线上来简化的）。 对于二次微函数，表现。 表明是从简单的凸函数即由保持凸性的行动中得到的 非负加权总和 组成仿射函数 最高点和上确界 组成 最小 角度 积极加权总和＆组成与仿射函数 非负多个：是凸的如果是凸的，。 总和：是凸的如果都是凸的。 组成与仿射功函数：是凸的如果是凸的。 例子 线性不等式 。 （任何）规范仿射函数：。 最高点 如果是凸的，则也是凸的。 例子 分段线性函数：是凸的。 上确界的点 如果是凸的在点处对于每个，则 是凸的。 例子 一套的支持函数：是凸的。 在一套中距离最远的点： 。 最大特征值的对称矩阵：对于 。 成分标量函数 的组成：和 是凸的如果是凸的，是凸的，为一非递减的或是凹的，是凸的，为一非递增的。 证明（对于，都是微的） 。 注意：单调性必须持有延长价值延伸。 例子 是凸的如果是凸的。 是凸的如果是凹的和单调的。 向量组成 的构成：和的构成： 是凸的如果是凸的，是凸的，为一非递减的在每一个论点上或是凹的，是凸的，为一非递增的在每一个论点上。 证明（对于，都是可微的） 。 例子 是凹的如果是凹的和单调的。 是凸的如果是凸的。 最小值 如果在内是凸的和是一个凸集，则 也是凸的。 例子 和 。 在上最小化给出 是凸的，因此Schur补。 一组的距离：是凸的如果是凸的。 性质 一个函数的性质： 是这种函数： 是凸的如果是凸的。 例子 是凸的；因此对于，也是凸的。 负对数是凸的，因此相对熵在上也是凸的。 如果是凸的，则 在上也是凸的。 共轭函数 一个函数的共轭是 。 是凸的（即使不是凸的）。 将在第五章中十分有用。 例子 负对数 =，否则=。 严格凸二次和 。 拟凸函数 是拟凸的如果是凸的和分段集 对于所有都是凸的 是拟凹的如果是拟凸的。 是线性的如果它是拟凸的和拟凹的。 例子 在上是拟凸的。 是拟线性的。 在上是拟线性的。 在上是拟凹的。 线性分式函数 是拟线性的。 距离比 ， 是拟凸的。