常用最优化方法评价准则.pdfVIP

常用无约束最优化方法评价准则 方法 算法特点 适用条件 属于间接法之一。方法简便，但要计算一阶偏导 适用于精度要求不高或用于对 最速下降法 数，可靠性较好，能稳定地使函数下降，但收敛 复杂函数寻找一个好的初始 速度较慢，尤其在极点值附近更为严重 点。 属于间接法之一。需计算一、二阶偏导数和Hesse 矩阵的逆矩阵，准备工作量大，算法复杂，占用 内存量大。此法具有二次收敛性，在一定条件下 目标函数存在一阶\二阶偏导 Newton 法 其收敛速度快，要求迭代点的Hesse 矩阵必须非 数，且维数不宜太高。 奇异且定型（正定或负定）。对初始点要求较高， 可靠性较差。 属于间接法之一。具有可靠性好，占用内存少， 共轭方向法 适用于维数较高的目标函数。 收敛速度快的特点。 属于间接法之一。具有二次收敛性，收敛速度快。 可靠性较好，只需计算一阶偏导数。对初始点要 适用维数较高的目标函数 变尺度法 求不高，优于Newton 法。因此，目前认为此法是 （n=10～50）且具有一阶偏导 最有效的方法之一，但需内存量大。对维数太高 数。 的问题不太适宜。 最简单的直接法之一。只需计算函数值，无需求 用于维数较低（n5）或目标函 坐标轮换法 导，使用时准备工作量少。占用内存少。但计算 数不易求导的情况。 效率低，可靠性差。 此法简单，直观，属直接法之一。上机计算过程 中占用内存少，规则单纯形法终止条件简单，而 单纯形法 可用于维数较高的目标函数。 不规则单纯形法终止条件复杂，应注意选择，才 可能保证计算的可靠性。 常用约束最优化方法评价标准 方法 算法特点 适用条件 将约束优化问题转化为一系列无约束优化问题。 可用于求解含有等式约束或不等 外点法 初始点可以任选，罚因子应取为单调递增数列。 式约束的中等维数的约束最优化 初始罚因子及递增系数应取适当较大值。 问题。 将约束优化问题转化为一系列无约束优化问题。 初始点应取为严格满足各个不等式约束的内点， 可用于求解只含有不等式约束的 内点法 障碍因子应取为单调递减的正数序列。初始障碍 中等维数约束优化问题。 因子选择恰当与否对收敛速度和求解成败有较大 影响。 将约束优化问题转