优化理论与方法一章.pptx

最优化理论与应用;教材与参考书;第一章引言;;在实际生活当中，人们做任何事情，不管是分析问题，还是进行决策，都要用一种标准衡量一下是否达到了最优。

在各种科学问题、工程问题、生产管理、社会经济问题中，人们总是希望在有限的资源条件下，用尽可能小的代价，获得最大的收获。;最优化问题的研究已经有很多年的历史。

以前解决最优化问题的数学方法只限于古典求导方法和变分法（求无约束极值问题）,Lagrange乘子法解决等式约束下的条件极值问题。

计算机技术的出现，使得人们研究出了许多最优化方法和算法用以解决以前难以解决的问题。;第一节基本概念;;模型与分类;;可行集中的元素是依赖于时间的决策序列----

“动态规划”

可行集是无穷维空间中的连续子集(如:可行集

中的元素是一条由常微分方程组描述的曲线,

而目标函数为定积分)----“最优控制”;第一章引言

第二章线性规划

第三章对偶原理与对偶单纯形法

第四章优化算法的结构与一维搜索

第五章无约束非线性规划

第六章约束优化最优性条件

第七章惩罚函数法

第八章可行方向法;经典极值问题;1、无约束极值问题的数学模型;①前期分析：分析问题，找出要解决的目标，约束条件，并确立最优化的目标。

②定义变量，建立最优化问题的数学模型，列出目标函数和约束条件。

③针对建立的模型，选择合适的求解方法或数学软件。

④编写程序，利用计算机求解。

⑤对结果进行分析，讨论诸如：结果的合理性、正确性，算法的收敛性，模型的适用性和通用性，算法效率与误差等。;例:某豆腐店用黄豆制作两种不同口感的豆腐出售。制作口感较鲜嫩的豆腐每千克需要0.3千克一级黄豆及0.5千克二级黄豆，售价10元；制作口感较厚实的豆腐每千克需要0.4千克一级黄豆及0.2千克二级黄豆，售价5元。现小店购入9千克一级黄豆和8千克二级黄豆。

问：应如何安排制作计划才能获得最大收益。;一、问题前期分析

该问题是在不超出制作两种不同口感豆腐所需黄豆总量条件下合理安排制作计划，使得售出各种豆腐能获得最大收益。

二、模型假设

1．假设制作的豆腐能全部售出。

2．假设豆腐售价无波动。;变量假设：

设计划制作口感鲜嫩和厚实的豆腐各x1千克和x2千克，可获得收益f元。;综上分析，得到该问题的数学模型;例（运输问题）设某种物资有m个产地A1,A2,…Am,各产地的产量是a1,a2,…,am;有n个销地B1,B2,…,Bn.各销地的销量是b1,b2,…,bn.

假定从产地Ai(i=1,2,…,m)到销地Bj(j=1,2,…,n)运输单位物品的运价是cij问怎样调运这些物品才能使总运费最小？

如果运输问题的总产量等于总销量，即有

则称该运输问题为产销平衡问题；

反之，称产销不平衡问题。

;令xij表示由产地Ai运往销地Bj的物品数量，

则产销平衡问题的数学模型为：

;第二节梯度、Hesse阵与Taylor展式;1）局部极值和全局极值

2）梯度

3）方向导数：设h为一方向向量，即长度为1的单位向量,可微函数?(x)在x处沿方向h的方向导数为:

;方向导数性质;常见函数梯度;例1;极值问题;若，存在x*的?邻域,;;设f(x):Rn?R，若f(x)在点x0处二阶可导。则在x0的邻域内二阶Taylor展式：;第三节凸集与凸函数;一.凸集;定义2：设集合S?Rn，若?x(1),x(2)?S,??[0,1]，

必有?x(1)＋(1-?)x(2)?S，则称S为凸集。

规定：单点集{x}为凸集，空集?为凸集。

注:?x(1)＋(1-?)x(2)=x(2)＋?(x(1)-x(2))是连接

x(1)与x(2)的线段;例1:证明:集合S={x∣Ax=b}是凸集。其中，A为m?n矩阵，b为m维向量。;实3维空间中，满足三元一次方程ax+by+cz=d的点(x,y,z)的全体在几何上是空间的一张平面。推而广之，n维空间中,满足n元一次方程

的点(x1,x2,...,xn)的全体H就叫空间的一张超平面（即广义平面）。;定义3：设x(1),x(2),…,x(m)?Rn,?j≥0

mm

??j=1,那么称??jx(j)为x(1),x(2),…,x(m)的

j=1