1-01概述讲义.ppt

例 C1={(x,0)T|x∈R}表示 x 轴上的点, C2={(0,y)T|y∈R},表示 y 轴上的点. 则 C1∩C2表示两个轴的所有点,它不是凸集; C1+C2=R2是凸集 极点 设C为凸集,x ∈ C.若D中不存在两个相异点y,z及某一实数a ∈(0,1)使得 x=ay+(1-a)z则称x为C的极点. 2.3　多元函数的Taylor展开式 设 f:Rn?R1有连续二阶偏导数，则 ?d?Rn,d≠0,这个向量也可被看作一个方向 1 1 . d(代表点也代表方向) 2 .x .x+2d 这个向量可看作是x沿着方向d走了两个单位！ 这时d，2d，1/2 d,…,均表示的是同一个方向,只是它们的长度不同。 比如n=2时， 2.4　方向向量 下降方向 图示 f(x0+td)f(x0),则称d为f在x0处的上升方向 f(x0+td)f(x0),则称d为f在x0处的下降方向 f: Rn?R1,x0,d?Rn,d≠0, 　若存在?0,当t ?(0, ?)时： · x d · x+?d 定理　梯度方向是函数值变化率最大的方向 · 由Taylor展开式，对任意方向d，有 易见：当二者夹角为180度或0度 (即P与梯度方向相反或相同)时， 函数值变化(下降或上升)的最多 分析 梯度方向是函数值的最速上升方向， 负梯度方向是函数值的最速下降方向。 同时可见 f的值下降了，此时方向d是f在x点处的一个下降方向； 若d与梯度夹角大于90度,即 判断一个方向是一点处的下降方向的方法 反之，若d与梯度夹角大于90度即 f的值上升了，方向d是f在x点处的一个上升方向。 Section Three 凸分析初步 凸集 若对?x,y?C, ???[0,1],均有?x+(1- ?)y ?C 则称C是一个凸集。 直观上看，凸集的内部必没有“洞”，边界也不会向 内凹，比如 3.1凸集 常见的凸集 空集--(补充定义),整个欧式空间Rn, 超平面-- H={x∈Rn|a1x1+a2x2+…anxn=b} 半空间-- H+={x ∈ Rn|a1x1+a2x2+…anxn≤b} 证明 设x,y为超球中任意两点, 0≤a≤1,则有 ||ax+(1-a)y||≤a||x||+(1-a)||y|| ≤a r+(1-a) r = r, 即点ax+(1-a)y属于超球,所以超球为凸集. 例 超球||x||≤r为凸集 凸集的性质 (i)有限个(可以改成无限)凸集的交集为凸集. 即:若Cj(i∈J)是凸集,则它们的交集 C={x|x ∈ Dj, i∈J}是凸集. (ii)设C是凸集,b是一实数,则下面集合是凸集 b C={y | y =b x, x ∈ C}. (iii)设C1,C2是凸集,则C1与C2的和集 C1+C2={y|y=x+z,x ∈ C1,z ∈ C2}是凸集. 和集与并集有很大的区别,凸集的并集未必是凸集, 而凸集的和集是凸集. 凸集 凸集 例 D={x∈Rn| ||x||≤a}(a0),则||x||=a上的点均为极点 证:设||x||=a, 若存在y,z∈D及a(0,1),使得x=ay+(1-a)z. 则 a2=||x||2= ay+(1-a)z,ay+(1-a)z ≤a2||y||2+(1-a)2||z||2 +2a (1-a)||y||.||z|| ≤a2 不等式要取等号,必须 ||y||=||z||=a,且y,z=||y||||z||, 容易证明 y=z=x,根据定义可知,x为极点. * * 参考书 .陈宝林《最优化理论与算法》 . 解可新等《最优化方法》 . 薛嘉庆《最优化原理与方法》 . 盛昭瀚等《最优化方法基本教程》 . 部分英文教材 Chapter One 概述及预备知识 　　 最优化又称数学规划(Mathematical　Programming),大约在1947年诞生,是运筹学(Operation Research)的一个分支. 　 概括地说，最优化就是从所有可能的方案中选取最合理的一种以达到最优目标的学科。达取最优化目标的方案就是最优方案，搜寻最优方案的方法就是最优化方法，这种方法的数学理论就是最优化理论。 1.1