优化设计考试总结.doc

1.优化设计的数学模型是描述实际优化问题的设计内容、变量关系、有关设计条件和意图的数学表达式，它反映了物理现象各主要因素的内在联系是进行优化设计的基础。 优化问题的基本解法：1.最优化问题的图解法。2.最优化问题的下降迭代解法。 2.优化设计问题迭代准则：① 点距准则：相邻两设计点的移动距离已经充分小；② 目标函数下降量准则：当函数值的下降量已经能充分小；③ 梯度准则：目标函数的梯度已经充分小。 3.方向导数：函数f(x)在x0(x10,x20)沿指定方向d的平均变化率的极限 ,为该函数沿此方向的方向导数。 4. 梯度：方向导数变化最大的方向。 5. Hessian 矩阵的正定性充要条件：矩阵G的各阶主子式都是正的。 G(x*)正定， 是x* 为全局极小值点的充分条件； G(x*)负定， 是x* 为全局极大值点的充分条件。 6.凸集：连接一个点集中任意两点x1,x2的线段全部都包含在该集合内。 凸函数：函数f（x），连接其凸集定义域内任意两点x1，x2的线段上，函数值总是小于等于用f(x1),f(x2)做线性内插所得的值，那么称f（x）为凸函数。 凸函数的基本性质 （1）设F(X) 为定义在凸集R上的凸函数，λ 为任意正实数,λF(X)则也是定义在R上的凸函数。（2）设F1(x).F2(x)均为定义在凸集R上的凸函数，则F1(x)+F2(x) 也是定义在R上的凸函数。（3）设F 1(X ). F2(X)均为定义在凸集R上的凸函数，λ1.λ2 为任意正实数，则λ1F 1(X )+λ2F2(X)也是定义在R上的凸函数. 凸规划： 对于约束优化问题 若、都为凸函数，则称此问题为凸规划。1) 若给定一点X0，则集合R={X| f(X)≤ f(X0)}为凸集。此性质表明当f(X) 为二元函数时其等值线呈现大圈套小圈形式；2) 可行域R={X|gj(X) j=1,2,…,m}为凸集；3) 凸规划的局部极小点一定是全局极小点. 7.库恩-塔克(K-T)条件中心思想：目标函数在该点的负梯度应该为在该点起作用的条件约束的梯度的线性组合。几何意义：在约束极小值点x处，函数发（x）的负梯度一定能表示为所有起作用约束在该点梯度的非负线性组合。 8.区间消去方法原理：搜索区间确定之后，采用区间消去法逐步缩短搜索区间，从而找到极小点的数值近似解。假定在搜索区间内[a, b]任取两点a1，b1，对应函数值为f(a1)，f(b1).存在三种可能情况： 9.梯度法思路：从某点x出发，其搜索方向d取该点的负梯度方向??f (X k ),使函数在该点附近范围内下降最快。迭代算法：X k+1 = X k -αk?f (X k )。 梯度法特点：(1) 理论明确，程序简单，对初始点要求不严格。(2) 对一般函数而言，梯度法的收敛速度并不快，因为最速下降方向仅仅是指某点的一个局部性质。(3) 梯度法相邻两次搜索方向的正交性，决定了迭代全过程的搜索路线呈锯齿状，在远离极小点时逼近速度较快，而在接近极小点时逼近速度较慢。(4) 梯度法的收敛速度与目标函数的性质密切相关。对于等值线(面)为同心圆(球)的目标函数，一次搜索即可达到极小点。 10.原始牛顿法基本思路 在Xk邻域内用二次函数φ(X)近似代替原目标函数f (X) ，并将φ(X)的极小点作为对原目标函数f(X)求优的下一个迭代点Xk+1，经过多次迭代，逐步逼近目标函数f(X)的极小点。 阻尼牛顿法的特点： 1) 不能保证每次迭代都使函数值下降。2） 收敛速度较牛顿法慢，但对初始点无特殊要求，实用性更好；3）牛顿法和阻尼牛顿法在每次迭代时，都要计算海赛矩阵，一则计算工作量大，二则要求海赛矩阵正定（保证有极小值）和非奇异（保证有逆矩阵）。 11. 共轭梯度法基本思路：以梯度法相邻两次迭代的负梯度方向??f (X k ),??f (X k +1 )呈线性无关且互为正交这点为基础而构造出的一种具有二次收敛的算法。每轮搜索方向为一组共轭方向，但第一向为负梯度方向。 共轭方向的定义：设A为n阶实对称正定矩阵，若有两个n维矢量S1和S2，满足S1TAS2=0，则称矢量S1和S2对A共轭，共轭矢量的方向称为共轭方向。 如果A=I（单位矩阵），就有S1TS2=0，S1和S2方向正交，即与单位矩阵共轭的方向是正交方向，所以正交方向是共轭方向的一个特例。 12.变尺度法思想：对于一般函数f（x）,当用牛顿法求极小值时，为了避免在迭代公式中计算海塞矩阵的逆矩阵G-1,，可用尺度矩阵来代替G-1，即构成一个矩阵序列来逼近海塞矩阵的逆矩阵序列，每迭代一次尺度矩阵变化一次，故称为变尺度法。 构造矩阵的条件：Hk应为正定对称矩阵；要求构造变尺度矩阵Hk具有简单的迭代运算；Hk必须满足拟牛顿条件。 尺度矩阵的构造方法：