第五章 高维优化算法.ppt

第五章 5.6 直接算法 一、 2、改进单纯形法： （续） 若f(y(1))f(x min), 则 若f(y(1)) f(y(2)), 那么y(2)取代x max; 否则， y(1)取代x max 。若max{f(x(i))| x(i) ≠x max } ≥ f(y(1)) ≥ f(x min), y(1)取代x max 。 3° 收缩：若f(x max ) f(y(1)) f(x(i)), x(i) ≠x max ,计算 ,以y(3)取代x max 。 4 ° 减半：若f(y(1)) f(x max ), 重新取各点，使 x(i)= x min +1∕ 2(x(i) - x min ) 得到新单纯形。 经验上：α=1,0.4≤β≤0.6, 2.3≤γ≤3.0 . 有人建议:α=1, β=0.5， γ=2 。 算法停机准则取： 第五章 5.6 直接算法 二、模式搜索法： Hooke Jeeves 1961 1、基本思想与主要过程： △利用两类移动（探测性移动和模式性移动）进行一步迭代： 探测性移动的目的：探求一个沿各坐标方向的新点并得到 一 个“有前途”的方向； 模式性移动的目的：沿上述“有前途”方向加速移动。 △主要过程：第k步迭代，设已得到x(k) 1°探测性移动： 给定步长αk ，设通过模式性移动得到y(0), 依次沿各坐标方向e(i)=(0, …,1,0, …,0)T 移动αk步长：i=0,1, …,n-1 , =y(i)+ αk e(i+1) 第五章 5.6 直接算法 二、1、基本思想与主要过程： （续） 若f( )f(y(i)), 则 y(i+1) = 否则 y(i+1) = y(i) 最后得到y(n) 。 若f(y(n) )f(x(k)), 令x(k+1)=y(n). 2°模式性移动： x(k+1) - x(k)为一个有前途的方向，取 y(0)= x(k+1) +(x(k+1) - x(k))=2 x(k+1) - x(k) [f(y(0))f(x(k+1) )?] 3 °几点措施： ①若探测性移动得到y(n)使f(y(n) ) ≥f(x(k)), 则跳过模式性移动而令y(0)=x(k) 重新进行探测性移动，初始y(0)=x(1) ； 第五章 5.6 直接算法 二、1、基本思想与主要过程： （续） ②若y(n)= y(0) （即每一个坐标方向的移动都失败），减小 αk ，重复上述过程。 ③当进行到αk充分小（ αk ε ）时，终止计算。最新的 迭代点x(k)为解。 例： y(1) = y(0) y(0)=x(1) y(1) y(2)=x(2) y(0) y(1) y(2)=x(3) y(0) y(1) y(1) y(2)=x(4) = y(1) = y(0) y(2) (f(y(2)) ≥f(x(4))) y(0) y(2)=x(5) 第五章 5.6 直接算法 二、2、算法： 初始x, α ,y(0)=x, ε0 计算f=f(x) f1=f(y(0)),i=1 y(i)=y(i-1)+ αe(i) 计算f2=f(y(i)) f2f1? f1=f2 in? yes yes 1 No i=i+1 2 No y(i)=y(i-1)+ (-α)e(i) 计算f2=f(y(i)) f2f1? y(i)=y(i-1) yes No 第五章 5.6 直接算法 二、2、算法： (续) 1 f1f ? No yes ㄡ =y(n), y(0)=2ㄡ -x x=ㄡ ,f=f(x) y(n)=x? No y(0)=x Yes αε ? Yes No α=0.1 α 2 停；x为解 第 五 章 无约束最优化方法 5.1 最优性条件 （f） min f(x) f : Rn→R