最优化方法第一次PPT.ppt

最优化方法;前 言;一、最优化方法简介 最优化方法是一门古老而又年青的学科。 这门学科的源头可以追溯到17世纪法国数学家拉格朗日关于求解多元函数极值的Lagrange乘数法。 19世纪柯西引入了最速下降法求解非线性规划问题。; 直到20世纪四、五十年代，最优化理论的研究才出现重大进展。1947年丹奇格提出了求解线性规划的单纯形法；1951年库恩和塔克给出了非线性规划的最优性条件即Kuhn-Tucker条件。 20世纪六十年代，随着计算机技术的发展，各种最优化算法应运而生,;比较著名的有DFP和BFGS无约束变尺度法、HP广义乘子法和WHP约束变尺度法。 最优化问题本质是一个求极值问题，几乎所有类型的优化问题都可概括为如下模型：给定一个集合(可行集)和该集合上的一个函数(目标函数),要计算此函数在集合上的极值。;的决策序列，则归结为“动态规划”；如果可行集是无穷维空间中的连续子集，则归结为“最优控制”。 线性规划与非线性规划是最优化方法中最基本、最重要的两类问题。 一般来说，各优化分支有其相应的应用领域。线性规划、网络规划、动态规划通常用于管理与决策科学；;最优控制常用于控制工程；非线性规划则更多地用于工程优化设计。 前