第5章一维搜索.docVIP

第5章 一维搜索 §5.1 最优化算法的简单介绍 1．算法概念 在解非线性规划时，所用的计算方法，最常见的是迭代下降算法． 迭代：从一点出发，按照某种规则A求出后继点．用代替，重复以上过程，产生点列。 规则A是在某个空间X中点到点的映射，即对每一个，有点． 更一般地，把A定义为点到集的映射，即对每个点，经A作用，产生一个点集.任意选取一个点，作为的后继点． 定义1: 算法A是定义在空间X上的点到集映射，即对每一个点，给定－个子集. 例1 考虑线性规划： 最优解．设计一个算法A求出这个最优解． 从一点出发，经A作用得到一个闭区间.从此区间中任取一点作为后继点，得到一个点列.在一定条件下，该点列收敛于问题的解．利用算法A可以产生不同的点列，如以为起点可产生点列: 其聚点是问题的最优解． 在许多情况下，要使算法产生的点列收敛于全局最优解是比较困难的．因此，一般把满足某些条件的点集定义为解集合.当迭代点属于这个集合时，就停止迭代． 无约束最优化问题可以定义解集合为 约束最优化问题可以定义解集合为 2. 算法收敛问题 设为解集合，是一个算法，集合.若以任一初点开始，算法产生的序列其任一收敛子序列的极限属于，则称算法映射A在Y上收敛． 收敛速率: 定义2: 设序列收敛于，定义满足 的非负数p的上确界为序列的收敛级． 若序列的收敛级为p，就称序列是p级收敛的． 若且，则称序列是以收敛比 线性收