什么是动态规划？动态规划的意义是什么？（知乎上不错的回答）

什么是动态规划？动态规划的意义是什么？

做者：王勐
连接：https://www.zhihu.com/question/23995189/answer/35429905
来源：知乎
著做权归做者全部。商业转载请联系做者得到受权，非商业转载请注明出处。

动态规划的本质不在因而递推或是递归，也不须要纠结是否是内存换时间。

理解动态规划并不须要数学公式介入，只是彻底解释清楚须要点篇幅…首先须要明白哪些问题不是动态规划能够解决的，才能明白为神马须要动态规划。不过好处时顺便也就搞明白了递推贪心搜索和动规之间有什么关系，以及帮助那些老是把动规当成搜索解的同窗创建动规的思路。固然熟悉了以后能够直接根据问题的描述获得思路，若是有须要的话再补充吧。

动态规划是对于 某一类问题 的解决方法！！重点在于如何鉴定“某一类问题”是动态规划可解的而不是纠结解决方法是递归仍是递推！

怎么鉴定dp可解的一类问题须要从计算机是怎么工做的提及…计算机的本质是一个状态机，内存里存储的全部数据构成了当前的状态，CPU只能利用当前的状态计算出下一个状态（不要纠结硬盘之类的外部存储，就算考虑他们也只是扩大了状态的存储容量而已，并不能改变下一个状态只能从当前状态计算出来这一条铁律）

当你企图使用计算机解决一个问题是，其实就是在思考如何将这个问题表达成状态（用哪些变量存储哪些数据）以及如何在状态中转移（怎样根据一些变量计算出另外一些变量）。因此所谓的空间复杂度就是为了支持你的计算所必需存储的状态最多有多少，所谓时间复杂度就是从初始状态到达最终状态中间须要多少步！

太抽象了仍是举个例子吧：

好比说我想计算第100个非波那契数，每个非波那契数就是这个问题的一个状态，每求一个新数字只须要以前的两个状态。因此同一个时刻，最多只须要保存两个状态，空间复杂度就是常数；每计算一个新状态所须要的时间也是常数且状态是线性递增的，因此时间复杂度也是线性的。

上面这种状态计算很直接，只须要依照固定的模式从旧状态计算出新状态就行（a[i]=a[i-1]+a[i-2]），不须要考虑是否是须要更多的状态，也不须要选择哪些旧状态来计算新状态。对于这样的解法，咱们叫递推。

非波那契那个例子过于简单，以致于让人忽视了阶段的概念，所谓阶段是指随着问题的解决，在同一个时刻可能会获得的不一样状态的集合。非波那契数列中，每一步会计算获得一个新数字，因此每一个阶段只有一个状态。想象另一个问题情景，假如把你放在一个围棋棋盘上的某一点，你每一步只能走一格，由于你能够东南西北随便走，因此你当你一样走四步可能会处于不少个不一样的位置。从头开始走了几步就是第几个阶段，走了n步可能处于的位置称为一个状态，走了这n步全部可能到达的位置的集合就是这个阶段下全部可能的状态。

如今问题来了，有了阶段以后，计算新状态可能会遇到各类奇葩的状况，针对不一样的状况，就须要不一样的算法，下面就分状况来讲明一下：

假如问题有n个阶段，每一个阶段都有多个状态，不一样阶段的状态数没必要相同，一个阶段的一个状态能够获得下个阶段的全部状态中的几个。那咱们要计算出最终阶段的状态数天然要经历以前每一个阶段的某些状态。

好消息是，有时候咱们并不须要真的计算全部状态，好比这样一个弱智的棋盘问题：从棋盘的左上角到达右下角最短须要几步。答案很显然，用这样一个弱智的问题是为了帮助咱们理解阶段和状态。某个阶段确实能够有多个状态，正如这个问题中走n步能够走到不少位置同样。可是一样n步中，有哪些位置可让咱们在第n+1步中走的最远呢？没错，正是第n步中走的最远的位置。换成一句熟悉话叫作“下一步最优是从当前最优获得的”。因此为了计算最终的最优值，只须要存储每一步的最优值便可，解决符合这种性质的问题的算法就叫贪心。若是只看最优状态之间的计算过程是否是和非波那契数列的计算很像？因此计算的方法是递推。

既然问题都是能够划分红阶段和状态的。这样一来咱们一会儿解决了一大类问题：一个阶段的最优能够由前一个阶段的最优获得。

若是一个阶段的最优没法用前一个阶段的最优获得呢？

什么你说只须要以前两个阶段就能够获得当前最优？那跟只用以前一个阶段并无本质区别。最麻烦的状况在于你须要以前全部的状况才行。

再来一个迷宫的例子。在计算从起点到终点的最短路线时，你不能只保存当前阶段的状态，由于题目要求你最短，因此你必须知道以前走过的全部位置。由于即使你当前再的位置不变，以前的路线不一样会影响你的以后走的路线。这时你须要保存的是以前每一个阶段所经历的那个状态，根据这些信息才能计算出下一个状态！

每一个阶段的状态或许很少，可是每一个状态均可以转移到下一阶段的多个状态，因此解的复杂度就是指数的，所以时间复杂度也是指数的。哦哦，刚刚提到的以前的路线会影响到下一步的选择，这个使人不开心的状况就叫作有后效性。

刚刚的状况实在太广泛，解决方法实在太暴力，有没有哪些状况能够避免如此的暴力呢？

契机就在于后效性。

有一类问题，看似须要以前全部的状态，其实不用。不妨也是拿最长上升子序列的例子来讲明为何他没必要须要暴力搜索，进而引出动态规划的思路。

伪装咱们年幼无知想用搜索去寻找最长上升子序列。怎么搜索呢？须要从头至尾依次枚举是否选择当前的数字，每选定一个数字就要去看看是否是知足“上升”的性质，这里第i个阶段就是去思考是否要选择第i个数，第i个阶段有两个状态，分别是选和不选。哈哈，依稀出现了刚刚迷宫找路的影子！咦慢着，每次当我决定要选择当前数字的时候，只须要和以前选定的一个数字比较就好了！这是和以前迷宫问题的本质不一样！这就能够纵容咱们不须要记录以前全部的状态啊！既然咱们的选择已经不受以前状态的组合的影响了，那时间复杂度天然也不是指数的了啊！虽然咱们不在意某序列以前都是什么元素，但咱们仍是须要这个序列的长度的。因此咱们只须要记录以某个元素结尾的LIS长度就好！所以第i个阶段的最优解只是由前i-1个阶段的最优解获得的，而后就获得了DP方程（感谢

@韩曦

指正）

 

因此一个问题是该用递推、贪心、搜索仍是动态规划，彻底是由这个问题自己阶段间状态的转移方式决定的！

每一个阶段只有一个状态->递推；
每一个阶段的最优状态都是由上一个阶段的最优状态获得的->贪心；
每一个阶段的最优状态是由以前全部阶段的状态的组合获得的->搜索；
每一个阶段的最优状态能够从以前某个阶段的某个或某些状态直接获得而无论以前这个状态是如何获得的->动态规划。

每一个阶段的最优状态能够从以前某个阶段的某个或某些状态直接获得

这个性质叫作最优子结构；

而无论以前这个状态是如何获得的

这个性质叫作无后效性。

另：其实动态规划中的最优状态的说法容易产生误导，觉得只须要计算最优状态就好，LIS问题确实如此，转移时只用到了每一个阶段“选”的状态。但实际上有的问题每每须要对每一个阶段的全部状态都算出一个最优值，而后根据这些最优值再来找最优状态。好比背包问题就须要对前i个包（阶段）容量为j时（状态）计算出最大价值。而后在最后一个阶段中的全部状态种找到最优值。

 

做者：徐凯强 Andy
连接：https://www.zhihu.com/question/23995189/answer/35324479
来源：知乎
著做权归做者全部。商业转载请联系做者得到受权，非商业转载请注明出处。

动态规划迷思
本题下其余用户的回答跟动态规划都有或多或少的联系，我也讲一下与本答案的联系。

a. “缓存”，“重叠子问题”，“记忆化”：
这三个名词，都是在阐述递推式求解的技巧。以Fibonacci数列为例，计算第100项的时候，须要计算第99项和98项；在计算第101项的时候，须要第100项和第99项，这时候你还须要从新计算第99项吗？不须要，你只须要在第一次计算的时候把它记下来就能够了。
上述的须要再次计算的“第99项”，就叫“重叠子问题”。若是没有计算过，就按照递推式计算，若是计算过，直接使用，就像“缓存”同样，这种方法，叫作“记忆化”，这是递推式求解的技巧。这种技巧，通俗的说叫“花费空间来节省时间”。都不是动态规划的本质，不是动态规划的核心。

b. “递归”：
递归是递推式求解的方法，连技巧都算不上。

c. "无后效性"，“最优子结构”：
上述的状态转移方程中，等式右边不会用到下标大于左边i或者k的值，这是"无后效性"的通俗上的数学定义，符合这种定义的状态定义，咱们能够说它具备“最优子结构”的性质，在动态规划中咱们要作的，就是找到这种“最优子结构”。
在对状态和状态转移方程的定义过程当中，知足“最优子结构”是一个隐含的条件（不然根本定义不出来）。对状态和“最优子结构”的关系的进一步解释，什么是动态规划？动态规划的意义是什么？ - 王勐的回答 写的很好，你们能够去读一下。

须要注意的是，一个问题可能有多种不一样的状态定义和状态转移方程定义，存在一个有后效性的定义，不表明该问题不适用动态规划。这也是其余几个答案中出现的逻辑误区：
动态规划方法要寻找符合“最优子结构“的状态和状态转移方程的定义，在找到以后，这个问题就能够以“记忆化地求解递推式”的方法来解决。而寻找到的定义，才是动态规划的本质。