最优化方法（研究生）课件 张建锋.pptxVIP

最优化设计 指导老师：包能胜 导 师：程西云 主 讲：张建锋 学 号1. 引言 首先我想阐述下什么叫最优化设计。最优化设计就是在满足所有设计要求的前提下，寻求实际问题的一组设计主参数的值，以使设计问题的某一领域或多项技术经济指标达到最大值或最小值。然后通过数学建模将实际工程问题转化为数学问题，量化分析求解。 前面有同学已经讲过了单纯形法，它实际上是一种线性化问题。因此为了让同学们建立起一个宏观的整体最优化问题与分类。我制作了一个图表如下： 无约束最优化方法 无约束最优化方法 2.数学基础 2.1 方向导数 设　　 在点　　 可微，Ｐ是给定的非零向量，如 果极限 最优化方法数学基础 现有一向量L，其与x,y轴的夹角分别为cosα，cosβ， 则函数f(x,y)沿L方向导数为： 存在，则称此极限为函数　　 在　　 的沿方向Ｐ的 方向导数，并记为 最优化方法数学基础 2.2 梯度向量 二元函数梯度表示为（多元函数的梯度依此类推）： 最优化方法数学基础 3 函数的泰勒级数展开 在高数里我们学过一维泰勒级数的展开式，这里我们需要用到二维泰勒公式的展开式。 首先我来引进一维泰勒公式。设f(x)在开区间（a,b）内具有直到（n+1）阶的导数，x0是区间（a,b)内一点，x是以x0为中心的某个领域内的点，则f(x)在x0处的泰勒级数展开为： 函数的泰勒级数展开 如果忽略二阶以上的各阶小量，则函数可近似表示为： f(x)≈f(x0)+f’(x0)Δx+（1/2）f’’(x0) 0(Δx2) 函数的泰勒级数展开 对于n元函数f(x)=f（X1,……Xn),设其在x0点的某一领域内存在连续偏导数，则在这个领域内函数f(x)可展开成泰勒公式为（忽略二阶以上的各阶量）： 函数的泰勒级数展开 说明： 函数的泰勒级数展开 G(x0)称为f(x)在点x0处的Hessian（海辛）矩阵，其具有对称性。引入海辛矩阵的目的是为了后面判定最优化极值的时候准备的。其形式如下： 函数的泰勒级数展开 函数的泰勒级数展开 4.迭代算法及其收敛性 一般的说，对于多变量、多约束的最优化问题，我们都采用数值迭代法，即从变量空间的某个初始点出发，在变量空间逐次沿着可使目标函数减少的方向移动。每移动一次，得到一个新点。例如：第K次以后，沿着方向Pk移动可得到新点： 迭代算法及其收敛性 Xk+1=Xk+tkPk 式中 K——移动（迭代次数）； Pk——该次移动的方向，称为步向； tk——该次沿Pk方向直线移动的距离，称为步长。 迭代算法及其收敛性 迭代算法及其收敛性 迭代算法及其收敛性 5.无约束最优性条件 （无约束极小点的一阶必要性） 设函数f(x)在x0处可微。若x0是f(x)的无约束局部极小点，则必有 无约束的最优性条件 （无约束极小点的二阶必要性） 设函数f(X)二次可微（这里的大写X是代表的多维向量，即X=（x0,x1,……xn）。若X是f(X)的无约束局部极小点，则必有 无约束的最优性条件 无约束的最优性条件 无约束的最优性条件 无约束的最优性条件 无约束的最优性条件 无约束最优性条件 无约束最优性条件