无约束优化方法-read.ppt

第五章 无约束优化方法 5.1 坐标轮换法（Cyclic Coordinate Method） 5.1.1 坐标轮换法的基本思想 5.1.2 坐标轮换法的计算框图 5.2 梯度法（Cauchy） 5.2.1 梯度法的迭代格式 5.3 牛顿法（Newton-Raphson） 5.2.3 梯度法的特点 5.3.1 牛顿法的基本原理与迭代公式 5.3.2 牛顿法的特点 5.3.3 Marquardt法 5.4 变尺度法(DFP法) 5.4.1 变尺度法的基本原理 5.4.2 构造变尺度矩阵的要求 5.4.3 变尺度矩阵的递推公式 5.4.4 变尺度法的程序框图 5.5 共轭方向 5.5.1 共轭方向的定义 5.5.2 共轭方向的构成 5.5.3 共轭方向的几何意义 5.6 共轭梯度法 5.6.1 共轭梯度法的基本原理与迭代公式 5.6.2 共轭梯度法的程序框图与特点 5.7 POwell法(方向加速法) 5.7.1 Powell法的基本原理 5.7.2 Powell的修正方法 5.7.3 P0well的程序框图 5.8 单纯形法 5.8.1 单纯形法的基本原理 5.8.2 单纯形法的计算步骤 5．9关于无约束优化问题的讨论 5.9.1 关于多维优化方法的演化 5.9.2 关于多维优化方法的选择 第六章 约束最优化方法 6.1 可行方向法 6.1.1 可行方向法的基本原理 6.2 随机方向法 6.3 复合形法 6.3.1 复合形法的基本原理 6.3.2 复合形法迭代步骤 6.4 广义简约梯度法(Generalized Reduced Gradient method) 6.4.1 简约梯度法 6.5 内点罚函数法 6.5.1 内点罚函数法的基本原理 6.5.2 内点罚函数法的算法与程序框图 6.6 外点罚函数法 6.6.1 外点罚函数法的基本原理 6.6.2 外点罚函数法的程序框图 6.7 广义乘子法 6.7.1 等式约束下的广义乘子法 6.7.2 不等约束下的广义乘子法 6.7.2.1 将不等约束问题转化为等式约束问题 6.8 优化方法的选择和全域最优解 在很多工程问题中，必须对X作某些限制，求解这类问题的方法称为约束优化方法。根据求解的方式不同，分为直接解法和间接解法。其数学模型为： u=1,2,……..m v=1,2,…… pn 本章将介绍直接解法中的可行方向法、随机方向法、复合形法、广义简约梯度法；间接解法中的罚函数法与广义乘子法。 这是一种约束优化的直接解法。迭代的格式为 （6-1） 一 其方向 应满足以下两个条件： 可行性条件 当ak足够小时， 是可行点（图6.1） 图 6.1可行方向法算法原理 对非适时约束 可为任意方向; 对适时约束 适用性条件 应使 的数值下降 即： 适用可行性方向的条件应为两者的交集。 二 最佳适用可行方向的确定 若 在可行域内则以负梯度方向为 ； 若 处于J个起作用的约束面上时： u=1,2,…….J v=J+1,J+2,……m 最佳适用可行方向就是使目标函数F(X)在 点的方向导数为最小的可行方向即： 由于 已为常数，故上式可归结为求解线性规划问题。 三 步长因子的确定 在迭代过程中，应能根据函数所提供的信息，自动的对步长因子作调整，使新点具有较大的目标函数值的下降，且 应在可行域内。若 在可行域内则以负梯度方向为 ，求出a*。若得到的 可行域之外,则用插值方法使其返回到约束面上。插值的方法如下： 实验点为： 取 一般取 =0.05~0.10 可能出现三种情况 1 点在约束边界上； 2 点越出可行域，需要调整步长退回到约束面上； 3 点在可行域内，则需要继续前进到约束面上，或沿负梯度方向前进。 一般不会准确落到约束面上,可规定适当允差带 就可认为该点已落到约束面上。 步骤 以 为圆心，半径a0的圆 以 为圆心，半径a1的圆 如此循环 当迭代的步长已经很小时，则表明已经逼近约束最优点。达到计算精度要求时，即可结束迭代计算。 因此，随机方向法的计算过程可归结为： 满足 随机方向搜索法的初始点，必须是一个可行点。可利用计算机产生的伪随机数来选择可行初始点 ，输入设计变量的估计上下限： i=1,2,…… .n 这样则初始点的各