算法设计及分析动态规划基本思想.docVIP

动态规划算法的基本思想 动态规划方法是处理分段过程最优化问题的一类及其有效的方法。在实际生活中，有一类问题的活动过程可以分成若干个阶段，而且在任一阶段后的行为依赖于该阶段的状态，与该阶段之前的过程是如何达到这种状态的方式无关。这类问题的解决是多阶段的决策过程。20世纪50年代，贝尔曼（Richard Bellman）等人提出了解决这类问题的“最优化原则”，从而创建了最优化问题的一种新的算法动态规划算法。 最优化原则指出，多阶段过程的最优决策序列应当具有性质： 无论过程的初始状态和初始决策是什么，其余的决策都必须相对于初始决策 所产生的状态构成一个最优决策序列。 这要求原问题的最优解包含了其子问题的一个最优解（称为最优子结构性质）。 动态规划算法采用最优原则来建立递归关系式（关于求最优值的），在求解问题时有必要验证该递归关系式是否保持最优原则。若不保持，则不可用动态规划算法。在得到最优值的递归式之后，需要执行回溯以构造最优解。在使用动态规划算法自顶向下（Top-Down） 图6-1-1 一个5段图 多阶段图问题：求由s到t的最小成本路径（也叫最短路径）。 对于每一条由s到t的路径，可以把它看成在k-2个阶段作出的某个决策序列的相应结果：第i步决策就是确定Vi+1中哪个顶点在这条路径上。今假设s, v2, v3, … , vk-1, t是一条由s到t的最短路径，再假定从源点s(初始状态)开始，已经作出了到顶点v2的决策(初始决策)，则v2就是初始决策产生的状态。若将v2看成是原问题的子问题的初始状态，这个子问题就是找一条由v2到t的最短路径。事实上，路径v2, v3, … , vk-1, t一定是v2到t的一条最短路径。不然，设v2, q3, … , qk-1, t是一条由v2到t的比v2, v3, … , vk-1, t更短的路径，则s, v2, q3, … , qk-1, t是一条由s到t的比s, v2, v3, … , vk-1, t更短的路径。与前面的假设矛盾。这说明多段图问题具有最优子结构性质。 0/1背包问题 有n件物品，第i件重量和价值分别是wi和pi, i=1, 2, …, n。要将这n件物品的某些件装入容量为c的背包中，要求每件物品或整个装入或不装入，不许分割出一部分装入。0/1背包问题就是要给出装包方法，使得装入背包的物品的总价值最大。这个问题归结为数学规划问题： s.t. (6.1.1) 0/1背包问题具有最优子结构性质。事实上，若是最优解， 则将是0/1背包问题的子问题： s.t. (6.1.2) 最优解。因为，若是子问题(6.1.2)的最优解，且使得 (6.1.3) 则将是原问题(6.1.1)的可行解，并且使得 (6.1.4) 这与是最优解相悖。 矩阵连乘问题 给定n个数字矩阵A1，A2，…，An，其中Ai与Ai+1是可乘的，i=1,2,…,n-1.求矩阵连乘A1A2(((An的加括号方法，使得所用的数乘次数最少。 考察两个矩阵相成的情形：C=AB。如果矩阵A，B分别是p×r和r×q矩阵，则它们的乘积C将是p×q矩阵，其(i, j)元素为 (6.1.5) i=1,…,p, j=1,…,q, 因而AB所用的数乘次数是prq。如果有至少3个以上的矩阵连乘，则涉及到乘积次序问题，即加括号方法。例如3个矩阵连乘的加括号方法有两种：((A1A2)A3)和(A1(A2A3))。设A1，A2，A3分别是p0×p1，p1×p2，p2×p3矩阵，则以上两种乘法次序所用的数乘次数分别为：p0p1p2+p0p2p3和p0p1p3+p1p2p3。如果p0=10, p1=100, p2=5, p3=50, 则两种乘法所用的数乘次数分别为：7500和750000。可见，由于加括号的方法不同，使得连乘所用的数乘次数有很大差别。对于n个矩阵的连乘积，令P(n)记连乘积的完全加括号数，则有如下递归关系 (6.1.6) 由此不难算出P=C(n-1)，其中C表示Catalan数： (6.1.7) 也就是说，P(n)是随n指数增长的，所以，我们不能希望列举所有可能次序的连乘积，从中找到具有最少数乘次数的连乘积算法。事实上，矩阵连乘积问题具有最优子结构性质，我们可以采用动态规划的方法，在多项式时间内找到最