算法分析——动态规划

1、动态规划定义

经过把原问题分解为相对简单的子问题的方式求解复杂问题的方法。

2、动态规划与贪心算法区别

已知问题规模为n的前提A，求解一个未知解B。（咱们用An表示“问题规模为n的已知条件”）

此时，若是把问题规模降到0，即已知A0，能够获得A0->B.

• 若是从A0添加一个元素，获得A1的变化过程。即A0->A1; 进而有A1->A2; A2->A3; …… ; Ai->Ai+1. 这就是严格的概括推理，也就是咱们常用的数学概括法；
• 对于Ai+1，只须要它的上一个状态Ai便可完成整个推理过程（而不须要更前序的状态）。咱们将这一模型称为马尔科夫模型。对应的推理过程叫作“贪心法”。

然而，Ai与Ai+1每每不是互为充要条件，随着i的增长，有价值的前提信息愈来愈少，咱们没法仅仅经过上一个状态获得下一个状态，所以能够采用以下方案：

• {A1->A2}; {A1, A2->A3}; {A1,A2,A3->A4};……; {A1,A2,...,Ai}->Ai+1. 这种方式就是第二数学概括法。
• 对于Ai+1须要前面的全部前序状态才能完成推理过程。咱们将这一模型称为高阶马尔科夫模型。对应的推理过程叫作“动态规划法”。

上述两种状态转移图以下图所示：

             

3、动态规划原理

• 基本思想：问题的最优解若是能够由子问题的最优解推导获得，则能够先求解子问题的最优解，在构造原问题的最优解；若子问题有较多的重复出现，则能够自底向上从最终子问题向原问题逐步求解。
• 使用条件：可分为多个相关子问题，子问题的解被重复使用

• Optimal substructure（优化子结构）：

• 一个问题的优化解包含了子问题的优化解
• 缩小子问题集合，只需那些优化问题中包含的子问题，下降实现复杂性
• 咱们能够自下而上的

• Subteties（重叠子问题）：在问题的求解过程当中，不少子问题的解将被屡次使用。

• 动态规划算法的设计步骤：

• 分析优化解的结构
• 递归地定义最优解的代价
• 自底向上地计算优化解的代价保存之，并获取构造最优解的信息
• 根据构造最优解的信息构造优化解

• 动态规划特色：

• 把原始问题划分红一系列子问题；
• 求解每一个子问题仅一次，并将其结果保存在一个表中，之后用到时直接存取，不重复计算，节省计算时间
• 自底向上地计算。
• 总体问题最优解取决于子问题的最优解（状态转移方程）（将子问题称为状态，最终状态的求解归结为其余状态的求解）
• 能采用动态规划求解的问题的通常要具备3个性质：
      (1) 最优化原理：若是问题的最优解所包含的子问题的解也是最优的，就称该问题具备最优子结构，即知足最优化原理。
      (2) 无后效性：即某阶段状态一旦肯定，就不受这个状态之后决策的影响。也就是说，某状态之后的过程不会影响之前的状态，只与当前状态有关。
    （3）有重叠子问题：即子问题之间是不独立的，一个子问题在下一阶段决策中可能被屡次使用到。

4、动态规划解题的通常思路   

　　　　 动态规划所处理的问题是一个多阶段决策问题，通常由初始状态开始，经过对中间阶段决策的选择，达到结束状态。这些决策造成了一个决策序列，同时肯定了完成整个过程的一条活动路线(一般是求最优的活动路线)。如图所示。动态规划的设计都有着必定的模式，通常要经历如下几个步骤。

•     初始状态→│决策１│→│决策２│→…→│决策ｎ│→结束状态
      (1)划分阶段：按照问题的时间或空间特征，把问题分为若干个阶段。在划分阶段时，注意划分后的阶段必定要是有序的或者是可排序的，不然问题就没法求解。
      (2)肯定状态和状态变量：将问题发展到各个阶段时所处于的各类客观状况用不一样的状态表示出来。固然，状态的选择要知足无后效性。
      (3)肯定决策并写出状态转移方程：由于决策和状态转移有着自然的联系，状态转移就是根据上一阶段的状态和决策来导出本阶段的状态。因此若是肯定了决策，状态转移方程也就可写出。但事实上经常是反过来作，根据相邻两个阶段的状态之间的关系来肯定决策方法和状态转移方程。
      (4)寻找边界条件：给出的状态转移方程是一个递推式，须要一个递推的终止条件或边界条件。
      通常，只要解决问题的阶段、状态和状态转移决策肯定了，就能够写出状态转移方程（包括边界条件）。
  实际应用中能够按如下几个简化的步骤进行设计：
      （1）分析最优解的性质，并刻画其结构特征。
      （2）递归的定义最优解。
      （3）以自底向上或自顶向下的记忆化方式（备忘录法）计算出最优值
      （4）根据计算最优值时获得的信息，构造问题的最优解

5、算法实现的说明

    动态规划的主要难点在于理论上的设计，也就是上面4个步骤的肯定，一旦设计完成，实现部分就会很是简单。

    使用动态规划求解问题，最重要的就是肯定动态规划三要素：

    （1）问题的阶段 （2）每一个阶段的状态

    （3）从前一个阶段转化到后一个阶段之间的递推关系。

     递推关系必须是从次小的问题开始到较大的问题之间的转化，从这个角度来讲，动态规划每每能够用递归程序来实现，不过由于递推能够充分利用前面保存的子问题的解来减小重复计算，因此对于大规模问题来讲，有递归不可比拟的优点，这也是动态规划算法的核心之处。

    肯定了动态规划的这三要素，整个求解过程就能够用一个最优决策表来描述，最优决策表是一个二维表，其中行表示决策的阶段，列表示问题状态，表格须要填写的数据通常对应此问题的在某个阶段某个状态下的最优值（如最短路径，最长公共子序列，最大价值等），填表的过程就是根据递推关系，从1行1列开始，以行或者列优先的顺序，依次填写表格，最后根据整个表格的数据经过简单的取舍或者运算求得问题的最优解。

          f(n,m)=max{f(n-1,m), f(n-1,m-w[n])+P(n,m)}

　　算法实现的步骤

　　一、建立一个一维数组或者二维数组，保存每个子问题的结果，具体建立一维数组仍是二维数组看题目而定，基本上若是题目中给出的是一个一维数组进行操做，就能够只建立一个一维数组，若是题目中给出了两个一维数组进行操做或者两种不一样类型的变量值，好比背包问题中的不一样物体的体积与整体积，找零钱问题中的不一样面值零钱与总钱数，这样就须要建立一个二维数组。

注：须要建立二维数组的解法，均可以建立一个一维数组运用滚动数组的方式来解决，即一位数组中的值不停的变化，后面会详细徐叙述

　　二、设置数组边界值，一维数组就是设置第一个数字，二维数组就是设置第一行跟第一列的值，特别的滚动一维数组是要设置整个数组的值，而后根据后面不一样的数据加进来变幻成不一样的值。

　　三、找出状态转换方程，也就是说找到每一个状态跟他上一个状态的关系，根据状态转化方程写出代码。

　　四、返回须要的值，通常是数组的最后一个或者二维数组的最右下角。

代码基本框架：

　　

 1 for(j=1; j<=m; j=j+1) // 第一个阶段
 2     xn[j] = 初始值;
 3 
 4   for(i=n-1; i>=1; i=i-1)// 其余n-1个阶段
 5     for(j=1; j>=f(i); j=j+1)//f(i)与i有关的表达式
 6       xi[j]=j=max（或min）{g(xi-[j1:j2]), ......, g(xi-1[jk:jk+1])};
 7 
 8 t = g(x1[j1:j2]); // 由子问题的最优解求解整个问题的最优解的方案
 9 
10 print(x1[j1]);
11 
12 for(i=2; i<=n-1; i=i+1）
13 { 
14       t = t-xi-1[ji];
15 
16       for(j=1; j>=f(i); j=j+1)
17          if(t=xi[ji])
18               break;
19 }

View Code

 参考连接：

　[1]http://www.javashuo.com/article/p-kwkslqxt-dt.html

　[2]https://www.cnblogs.com/hithongming/p/9229871.html