最优化方法2.pptVIP

第 二 章 基本概念 和基本理论 多胞形 H(x1 , x2 , … , xm)： 由 x1 , x2 , … , xm的所有凸组合构成。 单纯形：若多胞形 H(x1 , x2 , … , xm))满足， x2-x1 , x3 -x1 , … , xm- x1线性无关。 性质3：分离与支撑： 凸集边界上任意点存在支撑超平面 两个互相不交的凸集之间存在分离超平面 Def：C ? Rn, 若 x ?C, ? 0 有 ?x ? C, 则称 C 是以 0 为顶点的锥。如果 C 还是凸集，则称为凸锥。 集合 { 0 }、Rn 是凸锥。 命题：C是凸锥?C中任意有限点的半正组合属于S 定理： f(x) 为凸集 S 上的凸函数? S 上任意有限点的凸组合的函数值不大于各点函数值的凸组合。 思考：设f1, f2是凸函数， 设?1, ?2 0, ?1f1+?2f2 , ?1f1 - ?2f2是否凸函数？ f(x)= max{ f1(x) , f2 (x) } , g(x)= min{ f1(x) , f2 (x) }是否凸函数？ 定义：设集合 S ? Rn ，函数 f :S?R，? ? R ，称 S? = { x ?S∣f(x) ≤? } 为 f(x) 在 S 上 的? 水平集。 定理：设集合 S ? Rn 是凸集，函数 f :S?R是凸函数，则对 ?? ? R ，S? 是凸集。 注： 水平集的概念相当于在地形图中，海拔高度不高于某一数值的区域。 上述定理的逆不真。 考虑分段函数f(x)=1(x≥0)或0(x0)，函数非凸，但任意水平集是凸集。 二、凸函数 2、凸函数的性质： 方向导数：设 S ? Rn 为非空凸集，函数 f :S?R ，再设 x* ? S, d 为方向，使当? 0 充分小时有 x*+?d ? S, 如果 lim [ f(x*+ ?d )-f(x*) ] / ? 存在（包括 ? ?） ?? ?? 则称 f(x) 为在点沿方向的方向导数存在，记 f `(x*;d) = lim [ f(x*+ ?d )-f(x*) ] / ? ?? ?? 若 f(x) 在 x* 可导，则 f `(x*;d) = [?f (x*) ]Td . 二、凸函数 2、凸函数的性质： 以下设 S ? Rn 为非空凸集，函数 f :S?R 2）若f 凸，则 f 在 S 的内点集上连续； 注： f 在 S 上不一定连续。 例: f(x)＝2(当?x?=1)； f(x)＝x2 (当?x?1) . 3）设f 凸，则对任意方向方向导数存在。 4）设 S 是开集，f 在 S 上可微，则 f凸? x*?S，有f (x) ≥ f (x*)+ ?f T(x*)(x-x*) , ? x? S . 5) 设 S 是开集，f 在 S 上二次可微，则 a) f 凸? ?x?S，?2f (x) 半正定； b) 若 ?x?S，?2f (x) 正定，则f严格凸。 二、凸函数 2、凸函数的性质： 例： f(x)＝x12+2x1x2+2x22+10x1 - 4 ； f(x)＝-3x12+x1x2-x22-2x32-2x2x3+26 ; f(x)＝3x12+ax1x2+2x22-4x1+6 ( a=5, 4.5 )； 三、凸规划： 当（f S）中，S为凸集，f是S上的凸函数（求min），称（f S）为凸规划； 对于（fgh）, f,gi为凸函数，hj为线性函数时，（fgh）为凸规划。 定理：设集合 S ? Rn 为凸集，函数 f :S?R f(x) 为凸集 S 上的凸函数。x*为问题（fs）的l.opt，则x*为g.opt；又如果f是严格凸函数，那么x*是（fs）的唯一g.opt。 2.3 多面体、极点、极方向 1）多面体：有限个半闭空间的交 例：S = { x?Rn?Ax = b , x≥0 } 2.3 多面体、极点、极方向 2) 多面体的极点（顶点）： x?S，不存在 S 中的另外两个点x(1)和x(2)，及 λ?(0,1)，使 x = λx(1)+(1-λ)x(2). 3) 方向：x?S , d?Rn , d ? 0 及 λ 0 , 总有 x + λd ? S. d(1) = λd(2) ( λ0) 时，称 d(1)和d(2)同方向。 4) 极方向：方向 d 不能表