信赖域算法非线性优化问题课件.pptVIP

THUDAE机械最优化设计课程机械最优化设计作业—信赖域方法THUDAE1

THUDAE机械最优化设计课程1.信赖域方法的综述信赖域法和线性搜索方法是求解非线性优化问题的两类主要的数值方法。信赖域法也是一种迭代算法，即从给定的初始解出发，通过逐步迭代，不断改进，直到获得满意的近似最优解为止。特点：思想新颖，具有可靠性、有效性和很强的收敛性。与线性搜索方法相比，信赖域方法直接通过模型求解得到试探步长，而不是先确定搜索方向，再寻找步长。线搜索方向可以看成是信赖域半径充分大时的信赖域步；而信赖域方法得出的信赖步可看成是将二次逼近模型加上一个惩罚项之后所导致的线搜索方向。2

THUDAE机械最优化设计课程基本思想在每次迭代中给出一个信赖域，这个信赖域一般是当前迭代点的一个小邻域。然后在这个邻域内求解一个子问题，得到试探步长（trialstep），接着用某一评价函数来决定是否接受该试探步长以及决定下一次迭代的信赖域。如果试探步长被接受，则：，否则，。新的信赖域的大小取决于试探步长的好坏，粗略地说，如果试探步长较好，在下一步信赖域扩大或保持不变，否则下一步减小信赖域。3

THUDAE机械最优化设计课程算法模型设当前点的邻域定义为：其中，其中，称为信赖域半径。利用二次逼近，构造如下信赖域子问题：4

THUDAE机械最优化设计课程算法模型设是信赖域子问题（2）的解，定义目标函数第k步的真实下降量为：称二次模型函数的下降量为预测下降量：定义比值：它衡量了二次模型与目标函数的逼近程度越接近于1，表明接近程度越好。因此用它来确定下次迭代的信赖域半径。5

THUDAE机械最优化设计课程信赖域半径的选择（1）越接近于1，表明接近程度越好，这时可以增大以扩大信赖域；（2）0但是不接近于1，保持（3）如果或者其他不变；，缩小信赖域。接近于0，减小的选择方法（后面介绍）。6

THUDAE机械最优化设计课程信赖域算法Step1.给出初始点，信赖域半径的上界Step2.计算计算，如果，停止；否则，。Step3.（近似）求解子问题（2），得到Step4.计算。，令Step5.校正信赖域半径，令7

THUDAE机械最优化设计课程信赖域算法Step6.令k=k+1,转Step2.很成功迭代：，信赖域扩大；成功迭代：不成功迭代：，信赖域缩小。算法参数选择：8

THUDAE机械最优化设计课程解信赖域子问题信赖域方法在每步迭代中求解下列形式的子问题：其中，S为待求变量。当称为最优曲线。变化时，S的解形成一条空间曲线，Powell[1970]给出了求解（2）的单折线法，当可逆时。用连接初始点、曲线，在折线上取点2）的解的单折线近似最优作为（使得。9

THUDAE机械最优化设计课程解信赖域子问题10

THUDAE11

THUDAE机械最优化设计课程解信赖域子问题12

THUDAE机械最优化设计课程数值实验方法迭代次数函数值误差最优点误差信赖域共轭方向变尺度81.2*e^(-13)7.8*e^(-7)16329.4*e^(-9)1.5*e^(-5)9.4*e^(-9)1.5*e^(-5)13

THUDAE机械最优化设计课程14

THUDAE机械最优化设计课程对步长接收准则的讨论15