6- 优化设计-3多维优化之无约束优化方法.pptVIP

多 维 优 化 方 法　　 　求设计变量 　　　　X=[x1,x2,…,xn]T , X∈Rn 　满足目标函数minf(X) 的 　无约束最优解X* 　及对应的最优函数值minf (X*) 1）导数法 — 梯度法、共轭梯度法 基于目标函数一阶、二阶导数构造搜索方向而形成算法。收敛性、收敛速度好 2）模式法— 鲍威尔法 通过对目标函数几个已知点函数值分析比较构造搜索方向形成算法。利于实现复杂目标函数的优化 3、 梯度法（最速下降法） 　 将多维无约束优化问题转化为系列沿目标函数负梯度方向寻优的一维优化问题进行求解 相邻两次搜索方向正交，迭代全过程搜索 路线呈锯齿状。 梯度法算例 最后得此问题的最优解为： 共轭梯度方向公式 共轭梯度法算例 6）梯度法与共轭梯度法的对比 * 　１、概念：针对多元函数进行多变量优化的相关数值迭代方法的总称。 　２、分类： 　　　无约束优化方法 　　 约束优化方法 １、 无约束优化问题一般形式 多 维 优 化-无约束优化方法 2、无约束优化方法分类 根据“搜索方向” 构成形式分为： 1）概念：依据梯度（函数某点一阶偏导数）确定搜索方向而形成的优化方法。 3）梯度法迭代公式、收敛条件　 2）特点:通过沿迭代点负梯度方向的反复迭代搜索，使迭代点逐步逼近优化点 5）梯度法的本质原理　 F(X)多 元 目