运筹学-最优化准备知识.pdf

第三章最优化方法准备知识 §1.1 最优化问题的数学模型 与基本概念 1 例 数据拟合问题  在实验数据处理或统计资料分析中 常遇到如下问题.设两个变量x和y , 已知存 在函数关系,但其解析表达式或者是未知 的或者虽然为已知的但过于复杂.  设已取得一组数据:  (x ,y ) i=1,2,…,m. i i  根据这一组数据导出函数y =f (x) 的一个简 单而近似的解析表式. 2 最小二乘法  解这种问题常用的方法是最小二乘法, 以一 个简单的函数序列  j (x), j (x),···, j (x) 1 2 n  为基本函数. 2 n  一般选取1,x ,x ,···,x 为基本函数,即以 作为近似表达式. 3 最小二乘法  系数的选取要使得下面得平方和最小: 因此,数据拟合问题得数学模型为 其中x ,y (i=1,2,…,m)及j (x)(j =0,1,…,n)为已知. i i j 4 最优化问题  最优化问题的一般形式为: P: (1.1)( 目标函数) (1.2)(等式约束) (1.3)(不等式约束) 其中x 是n维向量. 在实际应用中,可以将求最大值的目标函数取 相反数后统一成公式中求最小值的形式. 我们总是讨论 5 相关定义  定义1.1.1 (可行解) 满足约束条件(1.2)和(1.3) 的x称为可行解,也称为可行点或容许点. 定义1.1.2 (可行域)全体可行解构成的集合称 为可行域,也称为容许集,记为D,即: n D={x |h (x)=0,i=1,···,m,g (x)≥0, j =1,···,p ,x ∈R }. i j 若h (x), g (x)为连续函数,则D为闭集. i j 6 相关定义  定义1.1.3 (整体最优解) 若x * ∈D