第三优化设计.ppt

解： (1)取初始点： (2)一维搜索 (3) 如何求 ？ (4)搜索方向 与牛顿法比较其结果非常接近，从本例中可以看出用近似矩阵代替二阶导数及逆阵是可行的。 如何判断搜索结束？ 【作业】 1.教材P127习题3-19 2.用阻尼牛顿法求下列目标函数的极小值： 3.5 约束问题的优化方法 约束优化方法是用来求解如下非线性约束优化问题的数值迭代算法。 根据处理约束条件的不同方式，求解这类问题的方法分为直接法和间接法。 直接法：在迭代过程中逐点考察约束的可行域，并使迭代点始终局限于可行域之内的算法称为直接法。常用的直接法有：随机试验、随机方向搜索法、复合形法、可行方向法、约束坐标轮换法、网格法等； 间接法：把约束条件引入目标函数，使约束优化问题转化为相对简单的二次规划问题或线性规划问题求解的算法称为间接法，常用的间接法有消元法、拉格朗日乘子法、惩罚函数法和序列线性规划法等。 一、 约束优化问题的直接法 在可行域内按照一定的准则，直接探索出问题的最优点，而无须将约束问题转换成无约束问题去求优的方法，称为约束优化问题的直接法。约束条件常常使得可行域非凸集出现众多的局部极值点，不同的初始点往往会导致探索点逼近不同的局部极值点，因此需要多次变更初始点进行多路探索。 1. 随机试验法（统计模拟试验法） 基本思想：利用计算机产生的伪随机数，从设计方案集合中分批抽样。每批抽样均包含若干方案，对每个方案都做约束检验，不满足则重抽，满足则按照它们的函数值的大小进行排列，取出前几个或者几十个相差不是很大的函数值，然后再做下批试验。当每批抽样试验的前几个函数值不再明显变动时，则可认为它已经按照概率收敛于某一最优方案。 迭代算法: （8个步骤） 1） 选定每个设计变量的上下限[ai, bi]，(i=1,2,…,n)，其中， n 为方案中的设计变量数。 2）产生[0,1]区间内服从均匀分布的一个伪随机数列｛ri ｝。 3）形成随机试验点 xi(k)=ai+ri(k)(bi-ai)； i=1,2,…,n； k=1,2,…,N； 其中，N 为每批试验中的方案数。 4）约束条件的检验，gu( x1(k), x2(k), …, xn(k) ) ≤0 (u=1，2，…，m)。 5）计算试验点的函数值，并循环转向 2）进行 N 次。 6）将 N 个试验点的函数值按大小排序，找出最优点及其函数值，即 f(X(L))=min{f(X(k)) (k=1,2,…,N) } 7）确定前 p 个最好的试验点的均值 xi 和均方根差 ? i ，当 xi 基本不变动或者 ?i≤? 时，得近似最优点，否则转向下一步。 8）构造新的试验区间[Xi-3?i , Xi+3?i] ，并转向 3）。 2. 随机方向探索法 当探索方向采用随机方向的探索方向时，称为随机方向探索法，该方法一般包括初始点、探索方向和探索步长随机选择三部分。 约束随机方向探索法的基本原理 迭代步骤： （4步） 1）在可行域内选取一个初始点 X(0)。并检验约束条件是否满足，如满足则转下一步，否则重新选取 X(0)。 2）产生N个随机单位向量e(j)(j =1,2,…N ),在以X(0) 为中心，以H0为半径的超球面上产生 N 个随机点 X(j)= X(0) +H0e(j)，并判断出函数值最小的点X(L)。如果 f(X(L))f(X(0)) ， 则继续沿 f(X(L))-f(X(0)) 方向以适当步长向前跨步，得到新点 X(1) 。 3）如果 f(X(1))f(X(L)) ，则以 X(1)为新的初始点，转向2）重复前面的过程，否则，以较小的试验步长向前探索，直到目标函数值不再下降而又符合约束条件为止。然后将探索得到的新点作为下一次的初始点，重复2）和3）。 4）当同一次迭代的初始点和末点的函数值满足收敛准则时，则停止迭代，并取 X*=X(k) ; f(X*) =f(X(k)) 3.可行方向法 可行方向法是用梯度去求解约束非线性最优化问题的一种有代表性的直接解法，是求解大型约束优化问题的主要方法之一。其收敛速度快，效果好，但程序比较复杂，计算困难且工作量大。 数学基础：梯度法、方向导数、k—t条件 适用条件：目标函数和约束函数均为n维一阶连续可微函数、可行域是连续闭集、不等式约束 在可行域内选择一个初始点，当确定了一个可行方向S(k)和适当步长α后，按公式 进行迭代计算，通过调整可行方向，使其既不超出可行域，又使目标函数值有所下降，经过若干次迭代，使迭代点逐步逼近约束最优点。 (1)可行方向法的基本思路 (2)产生可行方向的条件 可行条件 方向S