建模仿真与优化设计.pptVIP

二、优化求解的数学基础 故函数 f( x1 , x2 )在x0(x10 , x20)点处沿某一方向S的变化率为： 称为该函数沿此方向的方向导数 偏导数可以看作是函数沿坐标轴 方向的方向导数，并有 （二）梯度 二元函数在点x0的梯度是由函数在该点的各一阶偏导数组成的向量。即 : 设S方向单位向量 则有 函数的梯度具有以下性质： （1）函数在一点的梯度是一个向量。梯度的方向是该点函数值上升最快的方向，与梯度相反的方向是该点函数值下降的最快的方向，梯度的大小就是它的模长。 （2）一点的梯度方向是与过该点的等值线或等值面的切线或切平面相垂直的方向，或者说是该点等值线或等值面的法线方向。 （3）梯度是函数在一点邻域内局部形态的描述。在一点上升得快的方向，离开该领域后就不一定上升得快，甚至可能下降。 （三）泰勒展开 为了便于数学问题的分析和求解，往往需要将一个复杂的非线性函数简化成线性函数或二次函数。简化的方法可以采用泰勒展开式。 由高等数学可知，一元函数 f(x)若在点x0的邻域内n阶可导，则函数可在该点邻域内作泰勒展开： 二元函数 f(x)在点x0(x10 , x20)也可以作泰勒展开，展开式一般取前三项，即： 将上式写为矩阵形式 其中，G(x0)称为函数 f( x1 , x2 )在点x0处的二阶导数矩阵或海赛矩阵。 在优化计算中，当某点附近的函数值采用泰勒展开式作近似表达时，研究该点邻域的极值问题需要分析二次型函数是否正定。当对任何非零向量x使 则二次型函数正定，G为正定矩阵 （四）二次函数 当将函数的泰勒展开式取到二次项时得到二次函数形式。优化计算经常把目标函数表示为二次函数以使问题分析得以简化。在线性代数中将二次齐次函数称作二次型，其矩阵形式 在优化计算中，当某点附近的函数值采用泰勒展开式作近似表达时，研究该点邻域的极值问题需要分析二次型函数是否正定。当对任何非零向量x使 则二次型函数正定，G为正定矩阵 对于一般二次函数 矩阵有正定和负定之分。对于所有非零向量： （1）若有 ，则称矩阵是正定的； （2）若有 ，则称矩阵是半正定的； （3）若有 ，则称矩阵是负定的； （4）若有 ，则称矩阵是半负定的； （5）若有 ，则称矩阵是不定的 可以证明，正定二次函数具有以下性质： （1）正定二次函数的等值线或等值面是一簇同心圆或同心椭球。椭圆簇或椭球簇的中心就是该二次函数的极小点。 （2）非正定二次函数在极小点附近的等值线或等值面近似于椭圆或椭球。 （五）无约束优化问题的极值条件 二次函数 f(x1 , x2)在x0取得极值的必要条件为 充分条件为：该点处海赛矩阵正定，即 三、优化设计的迭代计算 三、优化设计的迭代计算 三、优化设计的迭代计算 三、优化设计的迭代计算 三、优化设计的迭代计算 （四）迭代计算的终止准则 三、优化设计的迭代计算 坐标轮换法 一、坐标轮换法的迭代过程 如图，以二次函数为例。 坐标轮换法 任取一初始点x0作为第一轮的始点x01,先沿第一坐标轴的方向e1作一维搜索，用一维优化方法确定最优步长?11，得第一轮的第一个迭代点x11=x01+ ?11 e1，然后以x11为新起点，沿第二坐标轴的方向e2作一维搜索，确定步长?21 ，得第一轮的第二个迭代点x21=x11+ ?11 e2 第二轮迭代，需要 x11?x01 x12 ? x02+ ?12 e1 x22=x12+ ?22 e2 依次类推，不断迭代，目标函数值不断下降，最后逼近该目标函数的最优点。 坐标轮换法 二、终止准则 可以采用点距准则或者其它准则。 注意：