Lecture1最优化.pptVIP

证明： 例：判断下列函数是否为凸函数. 凸规划 凸规划：求凸函数在凸集上的极小点。 性质：凸规划的局部极小点就是整体极小点， 且极小点的集合为凸集。 Example d(1) d(2) Proof Proof continued 定理： 证明： 多面集的表示定理 定理：设S={x|Ax=b, x≥0}为非空多面集，则有 极点集非空，且存在有限个极点 极方向集合为空集的充要条件是S有界；若S无界，则存在有限个极方向 的充要条件是 M.S. Bazaraa, J.J. Jarvis, Linear Programming and Network Flows, New York: Wiley, 1977. 凸集分离定理 定义： 定理1： 证明： 定理1： 证明： 定理1： 证明： Remark： 定理2: 证明： 定理3: 证明： 推论4: 定理5: 证明： 定理6: Farkas引理： 证明： 凸函数 凸函数：设S是En中的非空凸集， f(x)是定义在S上的实函数，如果对于每一对x1，x2?S及每一个a，0≤a≤1,都有 　　　f(ax1+(1－a)x2)≤a f(x1)+(1－a)f(x2) 则称函数f(x)为S上的凸函数．上式中，若≤变为，则称为严格凸函数。 若-f(x)为S的凸函数，则称f(x)为S上的凹函数． (a) 严格凸 x 凸 x 非凸 x (b) (c) 凸函数性质 (1) 设f1(x)，f2(x)是凸集S上的凸函数，则函数f1(x)+f2(x)在S上也是凸函数。 (2) 设f(x)是凸集S上的凸函数，则对任意的a≥0，函数af(x)是凸的。 推广：设f1(x)，f2(x), …, fk(x)是凸集S上的凸函数，ai≥0,则a1f1(x)+a2f2(x)+ …+ akfk(x)也是凸集S上的凸函数. (3) 设f(x)是凸集S上的凸函数，对每一个实数c，则集合(level set) Sc＝{x | x?S，f(x)?c}是凸集。 (4)设S是En中的非空凸集，f是定义在S上的凸函数， 则f在S上的局部极小点是整体极小点，且极小点 的集合是凸集． 凸函数性质 证明： 凸函数的判别 梯度： Hesse矩阵： 方向导数 方向导数通常用下面的公式计算： 凸函数的充要条件 定理（一阶充要条件） 凸性 证 明 几何意义 f(x)是凸函数当且仅当任意点处的切线增 量不超过函数的增量。 x(1) x(2) f(x(2))-f(x(1)) f(x(1)) f(x(2)) 最优化方法 Optimization 数 学 系 孔令臣 办公室：SC1002E 电话E-mail: lchkong@bjtu.edu.cn 第一章 绪论 要求与答疑安排 答疑时间： 周一晚上 8：00--10：00 周五下午 2：00-- 4：00 或 单独约定(欢迎通过邮箱提问) 地 点：SC1002E 总成绩=平时成绩（30%）+期末成绩(70%） 参考书 《最优化理论与算法》陈宝林 编著 《 Convex Optimization 》 Stephen Boyd, Lieven Vandenberghe 第一讲最优化方法的主要内容 线性规划 线性规划的基本性质；单纯形法；对偶理论 非线性规划 无约束优化: 最优性条件；算法 约束优化: KKT条件；算法 一、运筹学（OR）发展简介 运筹学在国外 英国称为 Operational Research 美国称为 Operations Research 起源于二战期间的军事问题，如雷达的设置、运输船队的护航舰队的规模、反潜作战中深水炸弹的深度、飞机出击队型、军事物资的存储等。 二战后运筹学应用于经济管理领域（LP、计算机） 1948年英国首先成立运筹学会；1952年美国成立。 1952年，Morse 和 Kimball出版《运筹学方法》 1959年成立国际运筹学联合会 运筹学在国内 中国古代朴素的运筹学思想 1956年成立运筹学小组 1958年提出运输问题的图上作业法 1962年提出中国邮路问题 1964年华罗庚推广统筹方法 我国于1982年加入国际运筹学联合会，并于1999年8月组织了第15届大会 二、运筹学的定义 运筹学是把科学方法应用在指导人员、工商企业、政府和国防等方面解决发生的各种问题，其方法是发展一个科学的系统模式，并