1动态规划1.ppt

练习：P211 习题8.2 5.1 逆序（递推）法 设已知初始状态s1，最优值函数fk(sk)表示从k阶段到n阶段所得到的最大效益。以求最大化为例来说明。 具体方法如下： 当阶段k=n时 即 其中s表示状态，x表示决策（控制） 可得最优决策xn=xn(sn)和最优值fn(sn)。要注意的是,若D(sn)只有一个决策,则可写成 xn=xn(sn)。 当阶段k=n-1时 其中状态转移方程 得到最优决策xn-1=xn-1(sn-1)和最优值fn-1(sn-1)。 当阶段k=k时 其中状态转移方程 得最优决策xk=xk(sk)和最优值fk(sk)。 如此类推，直到第一阶段。 当阶段k=1时 其中状态转移方程 得最优决策x1=x1(s1)和最优值f1(s1)。 由于初始状态s1已知,故x1=x1(s1)和f1(s1)是确定的,根据状态转移方程按照上述递推过程相反顺序推算下去，就可逐步确定出每阶段的决策及效益。 例1 用动态规划的逆序法求解下面问题 * 动态规划（Dynamic Programming） 动态规划是美国数学家Bellman创立的。是解决复杂系统优化问题的一种方法。是解决动态系统多阶段决策过程的基本方法之一。 R Bellman50年代执教于普林斯顿和斯坦福大学，后进入兰德（Rand）研究所。1957年发表“Dynamic Programming”一书，标志动态规划的正式诞生。 动态系统：包含随时间变化的因素和变量的系统。包含:线性系统、非线性系统。 动态系统的特点：系统在某个时刻的状态，往往要依某种形式受过去某些决策的影响，而系统的当前状态和决策又会影响系统过程今后的发展。 动态决策问题：将时间作为决策变量之一的决策问题称为动态决策问题。 动态决策问题的特点：在动态决策问题中，系统所处的状态和时刻是进行决策的重要因素，即在系统发展的不同时刻（或阶段）根据系统所处的状态，不断地做出决策，找到不同时刻的的最优决策以及整个过程的最优策略。 第一节：动态规划的研究对象和引例 多阶段决策问题：是动态决策问题的一种特殊形式。在多阶段决策过程中，系统的动态过程可以按照时间进程分为状态相互联系而又相互区别的各个阶段，而且在每个阶段都要进行决策。目的是使整个过程的决策达到最优效果。 多阶段决策问题的典型例子： 1、生产决策问题：企业在生产过程中，由于需求是随时间变化的，因此企业为了获得全年的最佳生产效益，就要在整个生产过程中逐月或逐季度地根据库存和需求决定生产计划。 1 2 n ? 状态 决策 状态 决策 状态 状态 决策 在低负荷下生产时，产品的年产量h和投入生产的机器数量u2的关系为 h=h(u2) 相应的机器年完好率b, 0 b1。 假定开始生产时完好的机器数量为s1。要求制定一个五年计划，在每年开始时，决定如何重新分配完好的机器在两种不同的负荷下生产的数量，使在五年内产品的总产量达到最高。 2、机器负荷分配问题：某种机器可以在高低两种不同负荷下进行生产。 在高负荷下进行生产时，产品的年产量g和投入生产的机器数量u1的关系为 g=g(u1) 这时，机器的年完好率为a，即如果年初完好机器的数量为u，到年终完好的机器数量就为a, 0a1。 3、航天飞机飞行控制问题：由于航天飞机的运动环境是不断变化的，因此要根据航天飞机在不同环境中的飞行情况，不断地决定航天飞机的飞行方向（姿态）和速度，使之能最省燃料和实现目的（如软着落问题）。 4、静态问题 不包含时间因素的静态决策问题（本质上是一次决策问题）也可以适当地引入阶段的概念，作为多阶段的决策问题用动态规划方法来解决。 静态规划问题也可以通过适当地引入阶段的概念，应用动态规划方法加以解决，后面将详细介绍。 5、最短路径问题：给定一个交通网络图如下，其中两点之间的数字表示距离（或花费），试求从A点到G点的最短距离（总费用最小）。 A B1 B2 C1 C2 C3 C4 D1 D2 D3 E1 E2 E3 F1 F2 G 5 3 1 3 6 8 7 6 6 8 3 5 3 3 8 4 2 2 1 2 3 3 3 5 5 2 6 6 4 3 1 2 3 4 5 6 1 阶段、阶段变量：把所给问题的过程，适当地分为若干个相互联系的阶段，目的是能按一定的次序去求解。描述阶段的变量称为阶段变量，常用k表示。阶段的划分，一般是按照时间和空间的自然特征划分，原则是便于把问题过程能转化为多阶段决策过程。 2 状态、状态变量：状态表示每个阶段开始所处的自然状态或客观条件，通常一个阶段有若干个状态。 描述