6一维搜索.docVIP

第六章 一维搜索 本章主要内容：一维搜索的概念及其性质 搜索区间的概念及其确定搜索区间的 进退法 单谷函数的概念及其性质 0.618法、Fibonacci法、 Newton切线法、割线法、二次插值法、Armijo-Goldstein法、 Wolfe-Powell法、后退法 教学目的及要求：理解一维搜索的概念并掌握其性质，理解搜索区间的概念并掌 握确定搜索区间的进退法，理解单谷函数的概念并掌握其性质， 掌握0.618法与Fibonacci法；掌握Newton切线法、割线法、 二次插值法，了解Armijo-Goldstein法、Wolfe-Powell法、后退 法。 教学重点：0.618法． 教学难点：Armijo-Goldstein法． 教学方法：启发式． 教学手段：多媒体演示、演讲与板书相结合． 教学时间：5学时． 教学内容： §6.1 一维搜索 给定，令． 定义 如果求得步长，使得 （6.1.1） 则称这样的一维搜索为最优一维搜索或精确一维搜索．叫做最优步长． 定理1 对于问题，设是可微函数，是从出发沿方向作最优一维搜索得到的，则有 ． 证 记．则，由满足（6.1.1）式，可知是的极小点，因此，即． 定义 如果选取，使目标函数沿方向取得适当的可接受的下降量，即使得下降量是我们可接受的，则称这样的一维搜索为可接受一维搜索或非精确一维搜索． 定义 设，并且．如果对于有，那么称是问题的搜索区间． 定义 设，若存在，使得在上严格单调减少，在上严格单调增加，则称是的单谷区间，是上的单谷函数或单峰函数． 定理2 设为的单谷区间，，且，那么 （1）若，则是的单谷区间； （2）若，则是的单谷区间． 证 设单谷函数在单谷区间上的唯一极小点为．要证（1），只要证．若不然，，从而，这与（1）中的条件矛盾．同理可证（2）． 算法6-1（进退法） Step1 选取初始数据．给定初始点，初始步长，加倍系数（一般取），计算，置． Step2 试探．令，计算． Step3 比较目标函数值．若，转Step4；否则，转Step5． Step4 加步探索．令，转Step2． Step5 反向搜索．若且，转换搜索方向，，转Step2；否则，停止迭代．令 ．输出搜索区间． §6.2 0.618法与Fibonacci法 考虑．假定的一个搜索区间已确定，并设在上为单谷函数，为在上的极小点．根据单谷函数的性质，只需增加两个试探点，就可把搜索区间缩短． 任取且，当时，取；当时，取．从而由定理2，总有．继续上述过程，得一搜索区间序列：， 且，当时，中任一点都可作为的近似值． 那么，应当如何选择试探点呢？ 在每次收缩区间时，新的搜索区间内已保留一个旧的试探点，因此只需再选一个新的试探点．称为区间缩短率．对有两种可能情况：常数或常数．相应地，分别有0.618法与Fibonacci法． 先介绍0.618法．设在第次迭代时，搜索区间为，为进一步缩短搜索区间，选取两个试探点，且，则有 情形1 当时，． 情形2 当时，． 现在要确定，使它们满足下述两个条件： （1）和在区间中的位置对称．这样，不管删去哪一段，新的搜索区间的长度不依赖于第次迭代结果，即与还是无关．于是有 ， （6.2.1） ． （6.2.2） 对于情形1和情形2，式（6.2.1）分别对应如下两式： ， （6.2.3） ． （6.2.4） 由式（6.2.4）和（6.2.3）分别得到 ， （6.2.5） ． （6.2.6） （2）为减少计算量，在第次迭代中，保留一个旧的试探点，只增加一个新的试探点。 对情形1，由（6.2.6）和（6.2.1）两式，有 ． （6.2.7） 对情形2，由（6.2.5）和（6.2.1）两式，有 ． （6.2.8） 比较（6.2.5）和（6.2.7）式以及（6.2.6）和（6.2.8）式得 ． （6.2.9） 这就是当试探点满足条件（1）和（2）时，应满足的条件． 在（常数）的条件下，由（6.2.9）式得到 ． （6.2.10） 解得． 于是，由（6.2.5）和（6.2.6）两式得到了0.618法中试探点的迭代公式： 算法6-2（0.618法） Step1 选取初始数据．确定初始搜索区间和允许误差．