魔幻的 2020 让咱们怀疑人生是否存在最优解?咱们某个时间的决策到底是否正确?历史不能改变,但却会重演,咱们究竟要从过去中学到什么呢?java
让咱们一块儿从动态规划中,来找寻这些问题的答案吧~python
(咳咳,今天开始回归算法系列,来聊一聊以前的算法文章中没有讲到的内容。面试
动态规划(Dynamic Programic,简称 DP)是一种求解最优解的方法,它是一种特殊的分治思想,利用它能够实现时间复杂度的优化,有时也能够进行空间复杂度的优化,有时是须要更多的空间的(相比其余方法)。算法
dynamic 是动态的意思,也就是变化的,programing 能够理解为方程(我瞎说的),结合起来就是动态规划是用状态转移方程来求得最优解的算法。后端
在解释动态规划的时候,咱们顺便理一理和它相关的两种思想——分治和贪心算法。数组
分治是把大问题分解成若干个子问题,这样的能分解性质就是最优子结构的。app
最简单的例子就是小明在解决问题 A 的时候,发现问题 A 是由问题 B 和 C 一块儿组成的,因此他想要解决问题 A,就须要把 B、C 一块儿去解决。优化
动态规划是分治法的特例。spa
动态规划比分治法多了一种,就是重叠的子问题。code
什么是重叠的子问题呢?举个例子来说,可爱的小明遇到了一个可爱的问题,那就是问题 A,可是在前面须要解决一连串的问题,咱们用A1,A2,A3,A4 ... A
来表示,在解决A1
以后会用它的解去解决相似的问题A2
,
而后再去解决A3
,最终再去解决 A,这就是重叠的子问题的典型表明。(下面的例题还会解释这个概念)
贪心比动态规划更加的特殊,它还须要问题知足另一个性质——贪心选择性质,每次均可以把原问题分解成为一个子问题。
实际上再用动规的例子来讲明贪心,在解决A1,A2,A3,A4 ... A
的时候,他发现解决不光有一种重叠子问题的性质在里面,更有趣的是,解决A1
须要一种特殊的规则。
例如小明如今在玩电脑游戏,而电脑游戏的最终目的是到达A
,而他又发现,只要一直往右边走就能到达最终的目的地了。这就是一种贪心的算法,在每次往右边走,就是一种特殊的规则,而走到目的地A
须要不少重复的子问题,也即每次活动一个单位。
其实在好久以前我写的一篇文章中,以斐波那契数列这道基本题为例,详细阐述了从递归到 DP 的优化方法和思路,以及简单题的不简单的答法,你们不妨先去复习一下:
而后咱们再来看看通常的动态规划解题思路。
回到动态规划,这里有四个基本的概念:
在刚开始的时候,咱们首先须要构建一个存储数据的表格,通常是数组或者矩阵,而后设定好每个格子到下一个格子须要的转移方程。
而后去执行重复的步骤,从初始化的状态一直计算到最终须要的状态。
回到小明的例子,刚开始的时候小明须要肯定一个 state(A0
表明的是什么),而后找到A0
与A1
之间的关系,从初始化开始一直计算到最终的状态。
接下来,咱们以 Leetcode 120 来详细的讲解这个算法。
如今咱们来分析一下这个题目,首先咱们分析一下为何它是一个动态规划的问题。
题目是要找到一种路径的和,这种路径和是要最小的,也就是求一个最优解
。
由于这是路径,咱们就是在每一层里面选择一个合适的数字,而后连成一个路径,在这道题目里面,最小的路径是2-3-5-1
,在第一层挑了2
,在第二层挑了3
。也就是说总的问题拆分红了每一层的问题,而每一层之间都有一种依赖性在里面,例如第二层选择了3
以后只能在6,5
之中选择一个,不能跳到7
,这就是重叠子问题
。
咱们用f[i][j]
表示从三角形顶部走到位置 [i][j]
的最小路径和。这里的位置 i, j
指的是三角形中第 i 行第 j 列的位置。
因为只能是从一个节点到相邻的两个节点(树),所以要想走到位置 [i][j]
,上一步就只能在位置 [i-1][j-1]
或者位置 [i-1][j]
。
咱们在这两个位置中选择一个路径和较小的来进行转移,状态转移方程为:
f[i][j]=min(f[i−1][j−1],f[i−1][j])+c[i][j]
,
其中 c[i][j]
指的是triangle[i][j]
的数值。
当设定完通项方程以后,咱们还须要设定一些特殊的转化方程:
j = 0
时,因而没有f[i-1][j−1]
这一项 ,状态转移方程变为:f[i][0]=f[i−1][0]+c[i][0]
f[i][i]=f[i−1][i−1]+c[i][i]
最终,咱们只须要在 dp 三角形的最后一行找到最小值就能够了。
那么初始的状态是什么呢?
实际上就是刚开始的时候设定 dp 的第一个单位的数值为cp[0][0]
,也便是dp[0][0] = c[0][0]
。
状态转换图以下所示:
代码以下:
class Solution { public int minimumTotal(List<List<Integer>> triangle) { // 建立表格 int[][] dp = new int[triangle.size()][triangle.size()]; dp[0][0] = triangle.get(0).get(0); // 动态规划的方程式 for (int i = 1; i < dp.length; i++) { for (int j = 0; j <= i; j++) { int curr = triangle.get(i).get(j); if (j == 0) { dp[i][j] = dp[i-1][j] + curr; } else if (j == i) { dp[i][j] = dp[i-1][j-1] + curr; } else { dp[i][j] = Math.min(dp[i-1][j-1], dp[i-1][j]) + curr; } } } int res = dp[triangle.size()-1][0]; for (int j = 1; j < triangle.size(); j++) { res = Math.min(res, dp[triangle.size()-1][j]); } return res; } }
下面来分析这个问题的时间复杂度以及空间复杂度,通常来讲空间复杂度是就是 DP 表格的大小。
在这道问题中是 O(n^2)
,而对于时间复杂度来讲,就是整个 dp 的遍历次数,而在这个问题中咱们只进行了一次遍历,也即一个矩阵的遍历,因此是O(n^2)
。
而若是想要优化到 O(n)
,咱们须要怎么作呢?
实际上这个就涉及到了一种状态压缩的方法,也即压缩这个状态表。
那么怎么去压缩呢?
这个问题比较简单,由于dp[i][j]
仅仅与上一层的状态有关,因此说与前两层的是没有任何关系的,所以咱们没必要存储这些无关的状态。
实际上最简单的状态压缩就是保留好前两个状态便可,例如在计算第四行的时候,保留第三行以及第二行的状态表,而后交替的进行更新就能够啦。
class Solution { public int minimumTotal(List<List<Integer>> triangle) { // 只保留最近 2 行 int[][] dp = new int[2][triangle.size()]; dp[0][0] = triangle.get(0).get(0); for (int i = 1; i < triangle.size(); i++) { int row = i % 2; int prevRow = (i-1) % 2; for (int j = 0; j <= i; j++) { if (j == 0) { dp[row][j] = dp[prevRow][j] + triangle.get(i).get(j); } else if (j == i) { dp[row][j] = dp[prevRow][j-1] + triangle.get(i).get(j); } else { dp[row][j] = Math.min(dp[prevRow][j-1], dp[prevRow][j]) + triangle.get(i).get(j); } } } int res = dp[(triangle.size() - 1) % 2][0]; for (int j = 1; j < triangle.size(); j++) { res = Math.min(res, dp[(triangle.size() - 1) % 2][j]); } return res; } }
这个的空间复杂度是 O(2n)
,能不能压缩成严格意义上的O(n)
呢?
那么再日后是否还可以进行状态的压缩呢?
答案是能够的,咱们能够再想一种方程而后达到最优的空间复杂度的目标。
当咱们在计算位置 [i][j]
时,f[j+1]
到 f[i]
已是第 i
行的值,而 f[0]
到 f[j]
仍然是第 i-1
行的值。
此时咱们直接经过 f[j] = min(f[j−1], f[j]) + c[i][j]
来计算,可是这个时候咱们须要j
是倒着遍历的,由于这样才不会影响以前记录下的状态。
若是从 1 开始,那么计算 2 的时候就会用到新的 1 的数值而不是上一层 1 的数值。
代码以下:
class Solution { public int minimumTotal(List<List<Integer>> triangle) { int[] dp = new int[triangle.size()]; dp[0] = triangle.get(0).get(0); for (int i = 1; i < triangle.size(); i++) { dp[i] = dp[i-1] + triangle.get(i).get(i); for (int j = i-1; j > 0; j--) { dp[j] = Math.min(dp[j-1], dp[j]) + triangle.get(i).get(j); } dp[0] += triangle.get(i).get(0); } int res = dp[0]; for (int j = 1; j < triangle.size(); j++) { res = Math.min(res, dp[j]); } return res; } }
方法 1 有点绕,但若是自下向上来理解,就会变得很简单,这个方法也叫 bottom-up
,方法 1 则是 top-down
。
从结果出发,这个问题是一个发散三角树的问题,从最后一行出发,而后每一行每一行的进行递推,那么第一行就是最终的结果了。
举个最简单的例子:
1 1 2
若是从最底下往上出发,实际上找最小值方法的规律很容易找到,那就是在第二行[1, 2]
里面选择一个就能够了,由于他们两个都要走到根节点。
也就是在下一行的两个数里面取个小的就好了,那么结果就是第一行的数值。
咱们先用二维的转移矩阵来解释这个问题,用这种方法也不须要考虑方法 1 里面的边界条件了:dp[i][j] = min(dp[i+1][j], dp[i+1][j+1]) + c[i][j]
状态转换图以下所示:
class Solution { public int minimumTotal(List<List<Integer>> triangle) { int[][] dp = new int[triangle.size()][triangle.size()]; // 建立 DP 空间 for (int i = 0; i < triangle.size(); i++) { dp[triangle.size() - 1][i] = triangle.get(triangle.size() - 1).get(i); } for (int i = triangle.size() - 2; i >= 0; i--) { for (int j = 0; j < triangle.get(i).size(); j++) { dp[i][j] = Math.min(dp[i+1][j], dp[i+1][j+1]) + triangle.get(i).get(j); } } return dp[0][0]; } }
那么在进行状态压缩的时候,咱们该怎么去作呢?
实际上就是只用一个状态表来表示全部的。
由于只是和上一个状态相关,因此说能够表示成以下的形式:
dp[j] = min(dp[j], dp[j + 1]) + triangle[i][j]
,
咱们只用 j
来表明当前的状态,而后最终输出dp[0]
便可。
class Solution { public int minimumTotal(List<List<Integer>> triangle) { int[] dp = new int[triangle.size()]; // 建立 DP 空间 for (int i = 0; i < triangle.size(); i++) { dp[i] = triangle.get(triangle.size() - 1).get(i); } for (int i = triangle.size() - 2; i >= 0; i--) { for (int j = 0; j <= i; j++) { dp[j] = Math.min(dp[j], dp[j+1]) + triangle.get(i).get(j); } } return dp[0]; } }
以上就是动态规划解题方法的粗浅介绍,总的来讲,咱们须要注意动态规划的这么几件事情。
实际上难点就是转移方程
,这个确实须要大量的积累才可以在面试的时候看穿,甚至有些题没见过的话就是想不出来的。
可是没见过就作不出来的题面试通常也不会考,因此你们也不用太担忧,重点仍是掌握方法,触类旁通。
接下来我也会概括总结一些动态规划的常见题型,和你们一块儿探索最优解
。
更多算法文章,建议收藏这个连接:
我是小齐,后端开发工程师,坐标纽约,曾在投行作 Quant,后加入科技公司 FLAG 中的一家。
业余时间打理公粽号【NYCSDE】,更新略少,干货不少,建议加个星标防止错过。