[经济学]5动态规划1.pptVIP

第2节 动态规划的基本概念和基本方程 2.2动态规划的基本思想和基本方程 二、动态规划的基本思想 动 态 规 划 (Dynamic programming) 动态规划的基本方法 动态规划应用举例 动态规划是用来解决多阶段决策过程最优化的一种数量方法。其特点在于，它可以把一个n 维决策问题变换为几个一维最优化问题，从而一个一个地去解决。 需指出：动态规划是求解某类问题的一种方法，是考察问题的一种途径，而不是一种算法。必须对具体问题进行具体分析，运用动态规划的原理和方法，建立相应的模型，然后再用动态规划方法去求解。 即在系统发展的不同时刻（或阶段）根据系统所处的状态，不断地做出决策； 动态决策问题的特点： 系统所处的状态和时刻是进行决策的重要因素； 找到不同时刻的最优决策以及整个过程的最优策略。 第1节 多阶段决策过程及实例 每个阶段都要进行决策,目的是使整个过程的决策 达到最优效果。 多阶段决策问题： 是动态决策问题的一种特殊形式； 在多阶段决策过程中,系统的动态过程可以按照时间进程分为状态相互联系而又相互区别的各个阶段； 当各个阶段决策确定后，就组成了一个决策序列， 因而也就决定了整个过程的一条活动路线。 这种把一个问题可看作是一个具有链状结构的多阶段 过程就称为多阶段决策过程，也称序贯决策过程。这种 问题称为多阶段决策问题。 1 2 n ? 决策 状态 决策 状态 状态 决策 状态 多阶段决策问题的典型例子： 1 . 生产决策问题：企业在生产过程中，由于需求是随时间变化的，因此企业为了获得全年的最佳生产效益，就要在整个生产过程中逐月或逐季度地根据库存和需求决定生产计划。 2. 机器负荷分配问题：某种机器可以在高低两种不同的负荷下进行生产。在高负荷下进行生产时，产品的年产量g和投入生产的机器数量u1的关系为 g=g(u1) 这时，机器的年完好率为a，即如果年初完好机器的数量为u，到年终完好的机器就为au, 0a1。 在低负荷下生产时，产品的年产量h和投入生产的机器数量u2的关系为 h=h(u2) 假定开始生产时完好的机器数量为s1。要求制定一个五年计划，在每年开始时，决定如何重新分配完好的机器在两种不同的负荷下生产的数量，使在五年内产品的总产量达到最高。 相应的机器年完好率b, 0b 1。 3. 航天飞机飞行控制问题：由于航天飞机的运动的环境是不断变化的，因此就要根据航天飞机飞行在不同环境中的情况，不断地决定航天飞机的飞行方向和速度（状态），使之能最省燃料和实现目的（如软着落问题）。 不包含时间因素的静态决策问题（本质上是一次决策问题）也可以适当地引入阶段的概念，作为多阶段的决策问题用动态规划方法来解决。 4 . 线性规划、非线性规划等静态的规划问题也可以通过适当地引入阶段的概念，应用动态规划方法加以解决。 5 . 最短路问题：给定一个交通网络图如下，其中两点之间的数字表示距离（或花费），试求从A点到G点的最短距离（总费用最小）。 1 2 3 4 5 6 A B1 B2 C1 C2 C3 C4 D1 D2 D3 E1 E2 E3 F1 F2 G 5 3 1 3 6 8 7 6 3 6 8 5 3 3 8 4 2 2 2 1 3 3 3 5 2 5 6 6 4 3 2.1基本概念 1、阶段： 把一个问题的过程，恰当地分为若干个相互联系的阶段，以便于按一定的次序去求解。 描述阶段的变量称为阶段变量，常用k表示。阶段的划分，一般是根据时间和空间的自然特征来进行的，但要便于问题转化为多阶段决策。 年、月、路段 如上述最短路问题可分为6个阶段来求解， k分别等于1，2，3，4，5，6 2、状态：表示每个阶段开始所处的自然状况或客观条件，它描述了研究问题过程的状况，又称不可控因素。 状态变量的取值有一定的允许集合或范围，此集合称为可达状态集合。 通常一个阶段有若干个状态，描述过程状态的变量 称为状态变量。 在最短路问题中，第一阶段有一个状态就是点A 第二阶段： 第k阶段的状态变量 如果状态变量不能满足无后效性的要求，应适当地改变状态的定义或规定方法。 无后效性(马尔可夫性) 如果某阶段状态给定后，则在这个阶段以后过程的发展不受这个阶段以前各段状态的影响； 过程的过去历史只能通过当前的状态去影响它未来的发展； 构造动态规划模型时，要充分注意是否满足无后效性的要求； 状态变量要满足无后效性的要求； 3、决策：表示当过