第5章 凸优化_第5节 对偶性与 Lagrangian 框架.pdfVIP

五、对偶性与Lagrangian框架

5.1拉格朗⽇函数构造与⼏何直觉学

5.1.1问题背景与形式定义数

修

5.1.2拉格朗⽇函数的定义必

习

5.1.3拉格朗⽇函数的构造⽬的与作⽤学

器

5.1.4⼏何直觉理解机

-

壮

5.1.5拉格朗⽇函数凸性保持的条件

大

s

o

c

5.1.6计算案例：单不等式约束问题

5.1.7Python代码实现

5.1.8⼩结

5.2原始问题与对偶问题：对偶函数定义

5.2.1原始优化问题回顾

5.2.2对偶函数的定义

5.2.3对偶函数的性质

5.2.4原始问题与对偶问题的联系

5.2.5计算案例：简单带约束的⼆次优化问题

5.2.6Python代码实现

5.2.7⼩结

5.3Fenchel不等式与强/弱对偶条件学

5.3.1Fenchel对偶性基础数

5.3.2弱对偶性修

必

5.3.3强对偶性习

学

5.3.4Fenchel不等式在对偶性中的作⽤器

机

-

5.3.5计算案例：Fenchel共轭和不等式应⽤

壮

大

5.3.6⼩结s

o

c

5.4对偶问题在机器学习中的含义与价值（特别是SVM中的表现）

5.4.1对偶问题的机器学习意义

5.4.2SVM的原始问题构造

5.4.3构造对应的对偶问题（Dual）

5.4.4对偶问题的优势与⽀持向量出现

5.4.5两个样本点的对偶优化（计算推导）