找到一个可行下降方向S随机方向法线性规划法-湖南大学.PPTVIP

luluoxx@hnu.cn 第5章 约束问题的最优化方法(第二讲) 湖南大学车辆工程 授课内容 背景 随机试验法 随机方向法 可行方向法 算例 小结 基本概念 紧约束（起作用约束） 等式约束条件 紧约束集 不等式约束的特点 在可行域内呈严格不等式约束 在边界处呈等式约束 概念：伪随机数 伪随机数是利用数学模型产生的随机数(式5-8,pp137） 特点是产生速度快，占用内存少，具有较好的概率统计特性 随机试验法的基本原理和思想（Monte-Carlo法，统计模拟试验法） 利用计算机产生的具有均匀分布伪随机数，从设计方案（点）集合中进行分批抽样（N=500,10000,15000) 在抽取样本时对每一个设计方案要检验其是否满足约束条件 计算函数值并从小到大排序，选取前几个好点后，做下次抽样 依此重复抽样迭代，直到收敛 收敛条件：当每批抽样试验的前几个点的目标函数值不再明显变动 随机试验法的特点 优点： 无需求探索方向S和该方向上的搜索步长a 方法简单，可保证依概率收敛，且不需要给出最优解的精确解域 缺点： 运算量大，需要计算上万个以上的随机点（抽样），计算效率低 仅适用于小型优化问题(n10) ?如何改进以提高计算效率？ 随机方向法 随机方向法 基本原理（动画） 基本步骤：随机产生 可行初始点 探索方向 探索步长 约束随机方向法的特点 优点： 程序结构简单，使用方便 对目标函数的性态无特殊要求，适用性广 可应用于小型最优化问题 缺点： 必须选择多个可行初始点，避免收敛于局部最优点 ?有否效率更高的方法？ 一阶梯度的最速下降法 可行方向法的基本原理 (opt1)约束最优化问题 (opt2)可行下降方向S（图5-15，p156） 下降方向判据（5-38式） 可行方向判据（5-37式） (opt3)最佳步长的计算 ?组合嵌套优化 收敛条件为K-T条件 可行方向法的求优过程 从某可行点出发，找到一个可行下降方向S（随机方向法、线性规划法Zoutendijk、梯度投影法Rosen）和一个合适的步长a（最优步长、试验步长） 求可行下降方向S的基本思想 线性规划法Zoutendijk 分别对目标函数和约束函数进行taylor展开成线性近似函数后，则S为成一个线性规划问题 梯度投影法Rosen 改进：不需每次求解一个线性规划问题 在可行域内部，则S为负梯度方向 在约束边界处，则S为负梯度(-grad)在起作用的紧约束边界上(g=0)的投影S = -P*grad 算例(例题5-3,pp169) 可行方向法的特点 用梯度法求解约束非线性问题 收敛速度快，效果好 程序结构复杂 适用于求解大型约束最优化问题 基本要求 探索方向必须是可行的 沿着这一探索方向，必须使目标函数值下降，而且下降的愈快愈好 沿着下降方向进行一维探索时，必须选择合适的步长 小结 算法的比较 作业，习题5-12，pp228 最后一次上机 如何上机编程？ 第四章 约束问题的最优化方法 §4.1 引言 §4.1 引言 §4.1 引言 §4.1 引言 §4.2 内点惩罚函数法 §4.2 内点惩罚函数法 §4.2 内点惩罚函数法 §4.2 内点惩罚函数法 §4.2 内点惩罚函数法 §4.2 内点惩罚函数法 §4.2 内点惩罚函数法 大作业布置 大作业布置 大作业布置 §4.3 外点惩罚函数法 (衰减函数法） §4.3 外点惩罚函数法 §4.3 外点惩罚函数法 §4.3 外点惩罚函数法 §4.3 外点惩罚函数法 §4.3 外点惩罚函数法 §4.4 混合惩罚函数法 §4.5 随机方向搜索法 §4.5 随机方向搜索法 §4.5 随机方向搜索法 §4.5 随机方向搜索法 §4.5 随机方向搜索法 §4.6 复合形法 §4.6 复合形法 §4.6 复合形法 §4.6 复合形法 §4.7 可行方向法 §4.7 可行方向法 §4.7 可行方向法 §4.7 可行方向法 §4.7 可行方向法 §4.7 可行方向法 §4.8 约束优化设计方法小结 一. 基本思想： 外点法将新目标函数 Φ( x , r ) 构筑在可行域 D 外，随着惩罚因子 r(k) 的不断递增，生成一系列新目标函数 Φ(xk ,r(k))，在可行域外逐步迭代，产生的极值点 xk*(r(k)) 序列从可行域外部趋向原目标函数的约束最优点 x* 。 例：求下述约束优化问题的最优点。 min. f (x) = x x ∈ R1 s.t g (x) = 1-x ≤ 0 新目标函数： 4 二. 惩罚函数的形式： Z一般取2。 因为在约束面处f (x) 与 Φ(x) 当