最优化笔记.pdfVIP

第一章 绪论 ①为什么要学习这门课程？ ②什么是最优化？最优化方法主要是研究在一定限制条件下,选取某种方案以达到最优目标的一门学科。达到最优目标的方案称为 最优方案。搜索最优方案的方法称为最优化方法。这种方法的数学理论成为最优化理论。 ③符号说明 x=(x, x ,..., x )T −−−n维列向量 或点 1 2 n ( ) A=[a ] −−−mxn阶矩阵 ij mxn −1 T A −−−逆 A −−−转置 A−−−行列式 Rank A−−−秩 I −−−单位矩阵 I −−−n阶单位矩阵 Φ−−−空 n n R −−−n维实数空间 A⊆ B−−− A是B的真子集 T x∈S−−−元素 x y= x, y= xy + xy +... + x y内积 1 1 2 2 n n §1 最优化问题举例 ①TSP 问题 旅行商问题(traveling salesman problem) ②背包问题 经典 NP 完全难题(Non-deterministic Polynomial)即多项式复杂程度的非确定性问题 §2 最优化问题的数学模型分类求变量 x ,x ,...,x 使函数 f(x ,x ,...,x )达到最小 1 2 m 1 2 m 一根据问题不同特点分类 (1)无约束极小化问题 求解 x=(x1,x2,...,xn)T 使 f(x)最小，记为或 min f(x) (2)等式约束极小化问题 求解 x=(x1,x2,...,xn)T 满足 gi(x)=0(i=1,2,...,m)使 f(x)最小，记为 ⎧min f(x) ⎨ s.t.g(x) =0,i=1, 2,...,m (3)不等式约束极小化问题 ⎩ i 求解 x=(x1,x2,...,xn)T 满足 gi(x)≥0(i=1,2,...,m)使 f(x)最小，记为 ⎧min f(x) ⎨ s.t.g( x) ≥ 0, i=1, 2,..., m (4)一般约束极小化问题记为⎧min f(x) ⎩ i ⎪ ⎨s.t.g(x) ≥0, i=1, 2,..., m i ⎪ s.t.h(x) = 0, j=1, 2,..., p ⎩ j 某些问题可以通过下列方式化为标准形式 1)g(x) ≤0 ⇒−g(x) ≥0 i i 2) max f(x) ⇒−min[ f(x)] x∈Rn x∈Rn ⎧h(x) ≥0 ⎪ j 3)h(x) =0 ⇒⎨ j