[转载学习] 背包问题九讲

背包问题九讲 v1.0

目录

第一讲 01背包问题

第二讲 彻底背包问题

第三讲 多重背包问题

第四讲 混合三种背包问题

第五讲 二维费用的背包问题

第六讲 分组的背包问题

第七讲 有依赖的背包问题

第八讲 泛化物品

第九讲 背包问题问法的变化

附：USACO中的背包问题

前言

本篇文章是我(dd_engi)正在进行中的一个雄心勃勃的写做计划的一部分，这个计划的内容是写做一份较为完善的NOIP难度的动态规划总结，名为《解动态规划题的基本思考方式》。如今你看到的是这个写做计划最早发布的一部分。

背包问题是一个经典的动态规划模型。它既简单形象容易理解，又在某种程度上可以揭示动态规划的本质，故很多教材都把它做为动态规划部分的第一道例题，我也将它放在个人写做计划的第一部分。

读本文最重要的是思考。由于个人语言和写做方式向来不以易于理解为长，思路也偶有跳跃的地方，后面更有须要大量思考才能理解的比较抽象的内容。更重要的是：不大量思考，绝对不可能学好动态规划这一信息学奥赛中最精致的部分。

你如今看到的是本文的1.0正式版。我会长期维护这份文本，把你们的意见和建议融入其中，也会不断加入我在OI学习以及未来可能的ACM-ICPC的征程中获得的新的心得。但目前本文尚未一个固定的发布页面，想了解本文是否有更新版本发布，能够在OIBH论坛中以“背包问题九讲”为关键字搜索贴子，每次比较重大的版本更新都会在这里发贴公布。

目录

第一讲 01背包问题

这是最基本的背包问题，每一个物品最多只能放一次。

第二讲 彻底背包问题

第二个基本的背包问题模型，每种物品能够放无限屡次。

第三讲 多重背包问题

每种物品有一个固定的次数上限。

第四讲 混合三种背包问题

将前面三种简单的问题叠加成较复杂的问题。

第五讲 二维费用的背包问题

一个简单的常见扩展。

第六讲 分组的背包问题

一种题目类型，也是一个有用的模型。后两节的基础。

第七讲 有依赖的背包问题

另外一种给物品的选取加上限制的方法。

第八讲 泛化物品

我本身关于背包问题的思考成果，有一点抽象。

第九讲 背包问题问法的变化

试图举一反三、触类旁通。

附：USACO中的背包问题

给出 USACO Training 上可供练习的背包问题列表，及简单的解答。

联系方式

若是有任何意见和建议，特别是文章的错误和不足，或者但愿为文章添加新的材料，能够经过http://kontactr.com/user/tianyi/这个网页联系我。

致谢

感谢如下名单：

• 阿坦
• jason911
• donglixp

他们每人都最早指出了本文第一个beta版中的某个并不是可有可无的错误。谢谢大家如此仔细地阅读拙做并弥补个人疏漏。

感谢 XiaQ，它针对本文的第一个beta版发表了用词严厉的六条建议，虽然我只认同并采纳了其中的两条。在全部读者几乎一边倒的赞赏将我包围的当时，你的贴子是个人一剂清醒剂，让我能清醒起来并用更严厉的眼光审视本身的做品。

固然，还有用各类方式对我表示鼓励和支持的几乎没法计数的同窗。无论是当面赞赏，或是在论坛上回复个人贴子，无论是发来热情洋溢的邮件，或是在即时聊天的窗口里竖起大拇指，大家的鼓励和支持是支撑个人写做计划的强大动力，也鞭策着我不断提升自身水平，谢谢大家！

最后，感谢 Emacs 这一世界最强大的编辑器的全部贡献者，感谢它的插件 EmacsMuse 的开发者们，本文的全部编辑工做都借助这两个卓越的自由软件完成。谢谢大家——自由软件社群——为社会提供了如此有生产力的工具。我深深钦佩大家身上体现出的自由软件的精神，没有大家的感召，我不能完成本文。在大家的影响下，采用自由文档的方式发布本文档，也是我对自由社会事业的微薄努力。

 

P01: 01背包问题

题目

有N件物品和一个容量为V的背包。第i件物品的费用是c[i]，价值是w[i]。求解将哪些物品装入背包可以使价值总和最大。

基本思路

这是最基础的背包问题，特色是：每种物品仅有一件，能够选择放或不放。

用子问题定义状态：即f[i][v]表示前i件物品恰放入一个容量为v的背包能够得到的最大价值。则其状态转移方程即是：

f[i][v]=max{f[i-1][v],f[i-1][v-c[i]]+w[i]}

这个方程很是重要，基本上全部跟背包相关的问题的方程都是由它衍生出来的。因此有必要将它详细解释一下：“将前i件物品放入容量为v的背包中”这个子问题，若只考虑第i件物品的策略（放或不放），那么就能够转化为一个只牵扯前i-1件物品的问题。若是不放第i件物品，那么问题就转化为“前i-1件物品放入容量为v的背包中”，价值为f[i-1][v]；若是放第i件物品，那么问题就转化为“前i-1件物品放入剩下的容量为v-c[i]的背包中”，此时能得到的最大价值就是f[i-1][v-c[i]]再加上经过放入第i件物品得到的价值w[i]。

优化空间复杂度

以上方法的时间和空间复杂度均为O(N*V)，其中时间复杂度基本已经不能再优化了，但空间复杂度却能够优化到O(V)。

先考虑上面讲的基本思路如何实现，确定是有一个主循环i=1..N，每次算出来二维数组f[i][0..V]的全部值。那么，若是只用一个数组f[0..V]，能不能保证第i次循环结束后f[v]中表示的就是咱们定义的状态f[i][v]呢？f[i][v]是由f[i-1][v]和f[i-1][v-c[i]]两个子问题递推而来，可否保证在推f[i][v]时（也即在第i次主循环中推f[v]时）可以获得f[i-1][v]和f[i-1][v-c[i]]的值呢？事实上，这要求在每次主循环中咱们以v=V..0的顺序推f[v]，这样才能保证推f[v]时f[v-c[i]]保存的是状态f[i-1][v-c[i]]的值。伪代码以下：

for i=1..N

    for v=V..0

        f[v]=max{f[v],f[v-c[i]]+w[i]};

其中的f[v]=max{f[v],f[v-c[i]]}一句恰就至关于咱们的转移方程f[i][v]=max{f[i-1][v],f[i-1][v-c[i]]}，由于如今的f[v-c[i]]就至关于原来的f[i-1][v-c[i]]。若是将v的循环顺序从上面的逆序改为顺序的话，那么则成了f[i][v]由f[i][v-c[i]]推知，与本题意不符，但它倒是另外一个重要的背包问题P02最简捷的解决方案，故学习只用一维数组解01背包问题是十分必要的。

事实上，使用一维数组解01背包的程序在后面会被屡次用到，因此这里抽象出一个处理一件01背包中的物品过程，之后的代码中直接调用不加说明。

过程ZeroOnePack，表示处理一件01背包中的物品，两个参数cost、weight分别代表这件物品的费用和价值。

procedure ZeroOnePack(cost,weight)

    for v=V..cost

        f[v]=max{f[v],f[v-cost]+weight}

注意这个过程里的处理与前面给出的伪代码有所不一样。前面的示例程序写成v=V..0是为了在程序中体现每一个状态都按照方程求解了，避免没必要要的思惟复杂度。而这里既然已经抽象成看做黑箱的过程了，就能够加入优化。费用为cost的物品不会影响状态f[0..cost-1]，这是显然的。

有了这个过程之后，01背包问题的伪代码就能够这样写：

for i=1..N

    ZeroOnePack(c[i],w[i]);

初始化的细节问题

咱们看到的求最优解的背包问题题目中，事实上有两种不太相同的问法。有的题目要求“刚好装满背包”时的最优解，有的题目则并无要求必须把背包装满。一种区别这两种问法的实现方法是在初始化的时候有所不一样。

若是是第一种问法，要求刚好装满背包，那么在初始化时除了f[0]为0其它f[1..V]均设为-∞，这样就能够保证最终获得的f[N]是一种刚好装满背包的最优解。

若是并无要求必须把背包装满，而是只但愿价格尽可能大，初始化时应该将f[0..V]所有设为0。

为何呢？能够这样理解：初始化的f数组事实上就是在没有任何物品能够放入背包时的合法状态。若是要求背包刚好装满，那么此时只有容量为0的背包可能被价值为0的nothing“刚好装满”，其它容量的背包均没有合法的解，属于未定义的状态，它们的值就都应该是-∞了。若是背包并不是必须被装满，那么任何容量的背包都有一个合法解“什么都不装”，这个解的价值为0，因此初始时状态的值也就所有为0了。

这个小技巧彻底能够推广到其它类型的背包问题，后面也就再也不对进行状态转移以前的初始化进行讲解。

小结

01背包问题是最基本的背包问题，它包含了背包问题中设计状态、方程的最基本思想，另外，别的类型的背包问题每每也能够转换成01背包问题求解。故必定要仔细体会上面基本思路的得出方法，状态转移方程的意义，以及最后怎样优化的空间复杂度。

首页

 

P02: 彻底背包问题

题目

有N种物品和一个容量为V的背包，每种物品都有无限件可用。第i种物品的费用是c[i]，价值是w[i]。求解将哪些物品装入背包可以使这些物品的费用总和不超过背包容量，且价值总和最大。

基本思路

这个问题很是相似于01背包问题，所不一样的是每种物品有无限件。也就是从每种物品的角度考虑，与它相关的策略已并不是取或不取两种，而是有取0件、取1件、取2件……等不少种。若是仍然按照解01背包时的思路，令f[i][v]表示前i种物品恰放入一个容量为v的背包的最大权值。仍然能够按照每种物品不一样的策略写出状态转移方程，像这样：

f[i][v]=max{f[i-1][v-k*c[i]]+k*w[i]|0<=k*c[i]<=v}

这跟01背包问题同样有O(N*V)个状态须要求解，但求解每一个状态的时间已经不是常数了，求解状态f[i][v]的时间是O(v/c[i])，总的复杂度是超过O(VN)的。

将01背包问题的基本思路加以改进，获得了这样一个清晰的方法。这说明01背包问题的方程的确是很重要，能够推及其它类型的背包问题。但咱们仍是试图改进这个复杂度。

一个简单有效的优化

彻底背包问题有一个很简单有效的优化，是这样的：若两件物品i、j知足c[i]<=c[j]且w[i]>=w[j]，则将物品j去掉，不用考虑。这个优化的正确性显然：任何状况下均可将价值小费用高得j换成物美价廉的i，获得至少不会更差的方案。对于随机生成的数据，这个方法每每会大大减小物品的件数，从而加快速度。然而这个并不能改善最坏状况的复杂度，由于有可能特别设计的数据能够一件物品也去不掉。

这个优化能够简单的O(N^2)地实现，通常均可以承受。另外，针对背包问题而言，比较不错的一种方法是：首先将费用大于V的物品去掉，而后使用相似计数排序的作法，计算出费用相同的物品中价值最高的是哪一个，能够O(V+N)地完成这个优化。这个不过重要的过程就不给出伪代码了，但愿你能独立思考写出伪代码或程序。

转化为01背包问题求解

既然01背包问题是最基本的背包问题，那么咱们能够考虑把彻底背包问题转化为01背包问题来解。最简单的想法是，考虑到第i种物品最多选V/c[i]件，因而能够把第i种物品转化为V/c[i]件费用及价值均不变的物品，而后求解这个01背包问题。这样彻底没有改进基本思路的时间复杂度，但这毕竟给了咱们将彻底背包问题转化为01背包问题的思路：将一种物品拆成多件物品。

更高效的转化方法是：把第i种物品拆成费用为c[i]*2^k、价值为w[i]*2^k的若干件物品，其中k知足c[i]*2^k<=V。这是二进制的思想，由于无论最优策略选几件第i种物品，总能够表示成若干个2^k件物品的和。这样把每种物品拆成O(log(V/c[i]))件物品，是一个很大的改进。

但咱们有更优的O(VN)的算法。

O(VN)的算法

这个算法使用一维数组，先看伪代码：

for i=1..N

    for v=0..V

        f[v]=max{f[v],f[v-cost]+weight}

你会发现，这个伪代码与P01的伪代码只有v的循环次序不一样而已。为何这样一改就可行呢？首先想一想为何P01中要按照v=V..0的逆序来循环。这是由于要保证第i次循环中的状态f[i][v]是由状态f[i-1][v-c[i]]递推而来。换句话说，这正是为了保证每件物品只选一次，保证在考虑“选入第i件物品”这件策略时，依据的是一个绝无已经选入第i件物品的子结果f[i-1][v-c[i]]。而如今彻底背包的特色恰是每种物品可选无限件，因此在考虑“加选一件第i种物品”这种策略时，却正须要一个可能已选入第i种物品的子结果f[i][v-c[i]]，因此就能够而且必须采用v=0..V的顺序循环。这就是这个简单的程序为什么成立的道理。

这个算法也能够以另外的思路得出。例如，基本思路中的状态转移方程能够等价地变造成这种形式：

f[i][v]=max{f[i-1][v],f[i][v-c[i]]+w[i]}

将这个方程用一维数组实现，便获得了上面的伪代码。

最后抽象出处理一件彻底背包类物品的过程伪代码，之后会用到：

procedure CompletePack(cost,weight)

    for v=cost..V

        f[v]=max{f[v],f[v-cost]+weight}

总结

彻底背包问题也是一个至关基础的背包问题，它有两个状态转移方程，分别在“基本思路”以及“O(VN)的算法“的小节中给出。但愿你可以对这两个状态转移方程都仔细地体会，不只记住，也要弄明白它们是怎么得出来的，最好可以本身想一种获得这些方程的方法。事实上，对每一道动态规划题目都思考其方程的意义以及如何得来，是加深对动态规划的理解、提升动态规划功力的好方法。

首页

 

P03: 多重背包问题

题目

有N种物品和一个容量为V的背包。第i种物品最多有n[i]件可用，每件费用是c[i]，价值是w[i]。求解将哪些物品装入背包可以使这些物品的费用总和不超过背包容量，且价值总和最大。

基本算法

这题目和彻底背包问题很相似。基本的方程只需将彻底背包问题的方程略微一改便可，由于对于第i种物品有n[i]+1种策略：取0件，取1件……取n[i]件。令f[i][v]表示前i种物品恰放入一个容量为v的背包的最大权值，则有状态转移方程：

f[i][v]=max{f[i-1][v-k*c[i]]+k*w[i]|0<=k<=n[i]}

复杂度是O(V*Σn[i])。

转化为01背包问题

另外一种好想好写的基本方法是转化为01背包求解：把第i种物品换成n[i]件01背包中的物品，则获得了物品数为Σn[i]的01背包问题，直接求解，复杂度仍然是O(V*Σn[i])。

可是咱们指望将它转化为01背包问题以后可以像彻底背包同样下降复杂度。仍然考虑二进制的思想，咱们考虑把第i种物品换成若干件物品，使得原问题中第i种物品可取的每种策略——取0..n[i]件——均能等价于取若干件代换之后的物品。另外，取超过n[i]件的策略必不能出现。

方法是：将第i种物品分红若干件物品，其中每件物品有一个系数，这件物品的费用和价值均是原来的费用和价值乘以这个系数。使这些系数分别为1,2,4,...,2^(k-1),n[i]-2^k+1，且k是知足n[i]-2^k+1>0的最大整数。例如，若是n[i]为13，就将这种物品分红系数分别为1,2,4,6的四件物品。

分红的这几件物品的系数和为n[i]，代表不可能取多于n[i]件的第i种物品。另外这种方法也能保证对于0..n[i]间的每个整数，都可以用若干个系数的和表示，这个证实能够分0..2^k-1和2^k..n[i]两段来分别讨论得出，并不难，但愿你本身思考尝试一下。

这样就将第i种物品分红了O(log n[i])种物品，将原问题转化为了复杂度为O(V*Σlog n[i])的01背包问题，是很大的改进。

下面给出O(log amount)时间处理一件多重背包中物品的过程，其中amount表示物品的数量：

procedure MultiplePack(cost,weight,amount)

if cost*amount>=V

{

        CompletePack(cost,weight)

        Return

}

    integer k=1

while k<amount

{

        ZeroOnePack(k*cost,k*weight)

        amount=amount-k

        k=k*2

    }

    ZeroOnePack(amount*cost,amount*weight)

但愿你仔细体会这个伪代码，若是不太理解的话，不妨翻译成程序代码之后，单步执行几回，或者头脑加纸笔模拟一下，也许就会慢慢理解了。

O(VN)的算法

多重背包问题一样有O(VN)的算法。这个算法基于基本算法的状态转移方程，但应用单调队列的方法使每一个状态的值能够以均摊O(1)的时间求解。因为用单调队列优化的DP已超出了NOIP的范围，故本文再也不展开讲解。我最初了解到这个方法是在楼天成的“男人八题”幻灯片上。

小结

这里咱们看到了将一个算法的复杂度由O(V*Σn[i])改进到O(V*Σlog n[i])的过程，还知道了存在应用超出NOIP范围的知识的O(VN)算法。但愿你特别注意“拆分物品”的思想和方法，本身证实一下它的正确性，并将完整的程序代码写出来。

首页

 

P04: 混合三种背包问题

问题

若是将P01、P02、P03混合起来。也就是说，有的物品只能够取一次（01背包），有的物品能够取无限次（彻底背包），有的物品能够取的次数有一个上限（多重背包）。应该怎么求解呢？

01背包与彻底背包的混合

考虑到在P01和P02中给出的伪代码只有一处不一样，故若是只有两类物品：一类物品只能取一次，另外一类物品能够取无限次，那么只需在对每一个物品应用转移方程时，根据物品的类别选用顺序或逆序的循环便可，复杂度是O(VN)。伪代码以下：

for i=1..N

    if 第i件物品是01背包

        for v=V..0

            f[v]=max{f[v],f[v-c[i]]+w[i]};

    else if 第i件物品是彻底背包

        for v=0..V

            f[v]=max{f[v],f[v-c[i]]+w[i]};

再加上多重背包

若是再加上有的物品最多能够取有限次，那么原则上也能够给出O(VN)的解法：遇到多重背包类型的物品用单调队列解便可。但若是不考虑超过NOIP范围的算法的话，用P03中将每一个这类物品分红O(log n[i])个01背包的物品的方法也已经很优了。

固然，更清晰的写法是调用咱们前面给出的三个相关过程。

for i=1..N

    if 第i件物品是01背包

        ZeroOnePack(c[i],w[i])

    else if 第i件物品是彻底背包

        CompletePack(c[i],w[i])

    else if 第i件物品是多重背包

        MultiplePack(c[i],w[i],n[i])

在最初写出这三个过程的时候，可能彻底没有想到它们会在这里混合应用。我想这体现了编程中抽象的威力。若是你一直就是以这种“抽象出过程”的方式写每一类背包问题的，也很是清楚它们的实现中细微的不一样，那么在遇到混合三种背包问题的题目时，必定能很快想到上面简洁的解法，对吗？

小结

有人说，困难的题目都是由简单的题目叠加而来的。这句话是否公理暂且存之不论，但它在本讲中已经获得了充分的体现。原本01背包、彻底背包、多重背包都不是什么难题，但将它们简单地组合起来之后就获得了这样一道必定能吓倒很多人的题目。但只要基础扎实，领会三种基本背包问题的思想，就能够作到把困难的题目拆分红简单的题目来解决。

首页

 

P05: 二维费用的背包问题

问题

二维费用的背包问题是指：对于每件物品，具备两种不一样的费用；选择这件物品必须同时付出这两种代价；对于每种代价都有一个可付出的最大值（背包容量）。问怎样选择物品能够获得最大的价值。设这两种代价分别为代价1和代价2，第i件物品所需的两种代价分别为a[i]和b[i]。两种代价可付出的最大值（两种背包容量）分别为V和U。物品的价值为w[i]。

算法

费用加了一维，只需状态也加一维便可。设f[i][v][u]表示前i件物品付出两种代价分别为v和u时可得到的最大价值。状态转移方程就是：

f[i][v][u]=max{f[i-1][v][u],f[i-1][v-a[i]][u-b[i]]+w[i]}

如前述方法，能够只使用二维的数组：当每件物品只能够取一次时变量v和u采用逆序的循环，当物品有如彻底背包问题时采用顺序的循环。当物品有如多重背包问题时拆分物品。这里就再也不给出伪代码了，相信有了前面的基础，你可以本身实现出这个问题的程序。

物品总个数的限制（？？？）

有时，“二维费用”的条件是以这样一种隐含的方式给出的：最多只能取M件物品。这事实上至关于每件物品多了一种“件数”的费用，每一个物品的件数费用均为1，能够付出的最大件数费用为M。换句话说，设f[v][m]表示付出费用v、最多选m件时可获得的最大价值，则根据物品的类型（0一、彻底、多重）用不一样的方法循环更新，最后在f[0..V][0..M]范围内寻找答案。

小结

当发现由熟悉的动态规划题目变形得来的题目时，在原来的状态中加一纬以知足新的限制是一种比较通用的方法。但愿你能从本讲中初步体会到这种方法。

首页

 

P06: 分组的背包问题

问题

有N件物品和一个容量为V的背包。第i件物品的费用是c[i]，价值是w[i]。这些物品被划分为若干组，每组中的物品互相冲突，最多选一件。求解将哪些物品装入背包可以使这些物品的费用总和不超过背包容量，且价值总和最大。

算法

这个问题变成了每组物品有若干种策略：是选择本组的某一件，仍是一件都不选。也就是说设f[k][v]表示前k组物品花费费用v能取得的最大权值，则有：

f[k][v]=max{f[k-1][v],f[k-1][v-c[i]]+w[i]|物品i属于第k组}

使用一维数组的伪代码以下：

for 全部的组k

    for v=V..0

        for 全部的i属于组k

            f[v]=max{f[v],f[v-c[i]]+w[i]}

注意这里的三层循环的顺序，甚至在本文的beta版中我本身都写错了。“for v=V..0”这一层循环必须在“for 全部的i属于组k”以外。这样才能保证每一组内的物品最多只有一个会被添加到背包中。

另外，显然能够对每组内的物品应用P02中“一个简单有效的优化”。

小结

分组的背包问题将彼此互斥的若干物品称为一个组，这创建了一个很好的模型。很多背包问题的变形均可以转化为分组的背包问题（例如P07），由分组的背包问题进一步可定义“泛化物品”的概念，十分有利于解题。

首页

 

P07: 有依赖的背包问题

简化的问题

这种背包问题的物品间存在某种“依赖”的关系。也就是说，i依赖于j，表示若选物品i，则必须选物品j。为了简化起见，咱们先设没有某个物品既依赖于别的物品，又被别的物品所依赖；另外，没有某件物品同时依赖多件物品。

算法

这个问题由NOIP2006金明的预算方案一题扩展而来。听从该题的提法，将不依赖于别的物品的物品称为“主件”，依赖于某主件的物品称为“附件”。由这个问题的简化条件可知全部的物品由若干主件和依赖于每一个主件的一个附件集合组成。

按照背包问题的通常思路，仅考虑一个主件和它的附件集合。但是，可用的策略很是多，包括：一个也不选，仅选择主件，选择主件后再选择一个附件，选择主件后再选择两个附件……没法用状态转移方程来表示如此多的策略。（事实上，设有n个附件，则策略有2^n+1个，为指数级。）

考虑到全部这些策略都是互斥的（也就是说，你只能选择一种策略），因此一个主件和它的附件集合实际上对应于P06中的一个物品组，每一个选择了主件又选择了若干个附件的策略对应于这个物品组中的一个物品，其费用和价值都是这个策略中的物品的值的和。但仅仅是这一步转化并不能给出一个好的算法，由于物品组中的物品仍是像原问题的策略同样多。

再考虑P06中的一句话： 能够对每组中的物品应用P02中“一个简单有效的优化”。 这提示咱们，对于一个物品组中的物品，全部费用相同的物品只留一个价值最大的，不影响结果。因此，咱们能够对主件i的“附件集合”先进行一次01背包，获得费用依次为0..V-c[i]全部这些值时相应的最大价值f'[0..V-c[i]]。那么这个主件及它的附件集合至关于V-c[i]+1个物品的物品组，其中费用为c[i]+k的物品的价值为f'[k]+w[i]。也就是说原来指数级的策略中有不少策略都是冗余的，经过一次01背包后，将主件i转化为V-c[i]+1个物品的物品组，就能够直接应用P06的算法解决问题了。

较通常的问题

更通常的问题是：依赖关系以图论中“森林”的形式给出（森林即多叉树的集合），也就是说，主件的附件仍然能够具备本身的附件集合，限制只是每一个物品最多只依赖于一个物品（只有一个主件）且不出现循环依赖。

解决这个问题仍然能够用将每一个主件及其附件集合转化为物品组的方式。惟一不一样的是，因为附件可能还有附件，就不能将每一个附件都看做一个通常的01背包中的物品了。若这个附件也有附件集合，则它一定要被先转化为物品组，而后用分组的背包问题解出主件及其附件集合所对应的附件组中各个费用的附件所对应的价值。

事实上，这是一种树形DP，其特色是每一个父节点都须要对它的各个儿子的属性进行一次DP以求得本身的相关属性。这已经触及到了“泛化物品”的思想。看完P08后，你会发现这个“依赖关系树”每个子树都等价于一件泛化物品，求某节点为根的子树对应的泛化物品至关于求其全部儿子的对应的泛化物品之和。

小结

NOIP2006的那道背包问题我作得很失败，写了上百行的代码，却一分未得。后来我经过思考发现经过引入“物品组”和“依赖”的概念能够加深对这题的理解，还能够解决它的推广问题。用物品组的思想考虑那题中极其特殊的依赖关系：物品不能既做主件又做附件，每一个主件最多有两个附件，能够发现一个主件和它的两个附件等价于一个由四个物品组成的物品组，这便揭示了问题的某种本质。

我想说：失败不是什么丢人的事情，从失败中全无收获才是。

首页

 

P08: 泛化物品

定义

考虑这样一种物品，它并无固定的费用和价值，而是它的价值随着你分配给它的费用而变化。这就是泛化物品的概念。

更严格的定义之。在背包容量为V的背包问题中，泛化物品是一个定义域为0..V中的整数的函数h，当分配给它的费用为v时，能获得的价值就是h(v)。

这个定义有一点点抽象，另外一种理解是一个泛化物品就是一个数组h[0..V]，给它费用v，可获得价值h[V]。

一个费用为c价值为w的物品，若是它是01背包中的物品，那么把它当作泛化物品，它就是除了h(c)=w其它函数值都为0的一个函数。若是它是彻底背包中的物品，那么它能够当作这样一个函数，仅当v被c整除时有h(v)=v/c*w，其它函数值均为0。若是它是多重背包中重复次数最多为n的物品，那么它对应的泛化物品的函数有h(v)=v/c*w仅当v被c整除且v/c<=n，其它状况函数值均为0。

一个物品组能够看做一个泛化物品h。对于一个0..V中的v，若物品组中不存在费用为v的的物品，则h(v)=0，不然h(v)为全部费用为v的物品的最大价值。P07中每一个主件及其附件集合等价于一个物品组，天然也可看做一个泛化物品。

泛化物品的和

若是面对两个泛化物品h和l，要用给定的费用从这两个泛化物品中获得最大的价值，怎么求呢？事实上，对于一个给定的费用v，只需枚举将这个费用如何分配给两个泛化物品就能够了。一样的，对于0..V的每个整数v，能够求得费用v分配到h和l中的最大价值f(v)。也即f(v)=max{h(k)+l(v-k)|0<=k<=v}。能够看到，f也是一个由泛化物品h和l决定的定义域为0..V的函数，也就是说，f是一个由泛化物品h和l决定的泛化物品。

由此能够定义泛化物品的和：h、l都是泛化物品，若泛化物品f知足f(v)=max{h(k)+l(v-k)|0<=k<=v}，则称f是h与l的和，即f=h+l。这个运算的时间复杂度取决于背包的容量，是O(V^2)。

泛化物品的定义代表：在一个背包问题中，若将两个泛化物品代以它们的和，不影响问题的答案。事实上，对于其中的物品都是泛化物品的背包问题，求它的答案的过程也就是求全部这些泛化物品之和的过程。设此和为s，则答案就是s[0..V]中的最大值。

背包问题的泛化物品

一个背包问题中，可能会给出不少条件，包括每种物品的费用、价值等属性，物品之间的分组、依赖等关系等。但确定能将问题对应于某个泛化物品。也就是说，给定了全部条件之后，就能够对每一个非负整数v求得：若背包容量为v，将物品装入背包可获得的最大价值是多少，这能够认为是定义在非负整数集上的一件泛化物品。这个泛化物品——或者说问题所对应的一个定义域为非负整数的函数——包含了关于问题自己的高度浓缩的信息。通常而言，求得这个泛化物品的一个子域（例如0..V）的值以后，就能够根据这个函数的取值获得背包问题的最终答案。

综上所述，通常而言，求解背包问题，即求解这个问题所对应的一个函数，即该问题的泛化物品。而求解某个泛化物品的一种方法就是将它表示为若干泛化物品的和而后求之。

小结

本讲能够说都是我本身的原创思想。具体来讲，是我在学习函数式编程的 Scheme 语言时，用函数编程的眼光审视各种背包问题得出的理论。这一讲真的很抽象，也许在“模型的抽象程度”这一方面已经超出了NOIP的要求，因此暂且看不懂也不要紧。相信随着你的OI之路逐渐延伸，有一天你会理解的。

我想说：“思考”是一个OIer最重要的品质。简单的问题，深刻思考之后，也能发现更多。

首页

 

P09: 背包问题问法的变化

以上涉及的各类背包问题都是要求在背包容量（费用）的限制下求能够取到的最大价值，但背包问题还有不少种灵活的问法，在这里值得提一下。可是我认为，只要深刻理解了求背包问题最大价值的方法，即便问法变化了，也是不难想出算法的。

例如，求解最多能够放多少件物品或者最多能够装满多少背包的空间。这均可以根据具体问题利用前面的方程求出全部状态的值（f数组）以后获得。

还有，若是要求的是“总价值最小”“总件数最小”，只需简单的将上面的状态转移方程中的max改为min便可。

下面说一些变化更大的问法。

输出方案

通常而言，背包问题是要求一个最优值，若是要求输出这个最优值的方案，能够参照通常动态规划问题输出方案的方法：记录下每一个状态的最优值是由状态转移方程的哪一项推出来的，换句话说，记录下它是由哪个策略推出来的。即可根据这条策略找到上一个状态，从上一个状态接着向前推便可。

仍是以01背包为例，方程为f[i][v]=max{f[i-1][v],f[i-1][v-c[i]]+w[i]}。再用一个数组g[i][v]，设g[i][v]=0表示推出f[i][v]的值时是采用了方程的前一项（也即f[i][v]=f[i-1][v]），g[i][v]表示采用了方程的后一项。注意这两项分别表示了两种策略：未选第i个物品及选了第i个物品。那么输出方案的伪代码能够这样写（设最终状态为f[N][V]）：

i=N

v=V

while(i>0)

    if(g[i][v]==0)

        print "未选第i项物品"

    else if(g[i][v]==1)

        print "选了第i项物品"

        v=v-c[i]

另外，采用方程的前一项或后一项也能够在输出方案的过程当中根据f[i][v]的值实时地求出来，也即不须纪录g数组，将上述代码中的g[i][v]==0改为f[i][v]==f[i-1][v]，g[i][v]==1改为f[i][v]==f[i-1][v-c[i]]+w[i]也可。

输出字典序最小的最优方案

这里“字典序最小”的意思是1..N号物品的选择方案排列出来之后字典序最小。以输出01背包最小字典序的方案为例。

通常而言，求一个字典序最小的最优方案，只须要在转移时注意策略。首先，子问题的定义要略改一些。咱们注意到，若是存在一个选了物品1的最优方案，那么答案必定包含物品1，原问题转化为一个背包容量为v-c[1]，物品为2..N的子问题。反之，若是答案不包含物品1，则转化成背包容量仍为V，物品为2..N的子问题。无论答案怎样，子问题的物品都是以i..N而非前所述的1..i的形式来定义的，因此状态的定义和转移方程都须要改一下。但也许更简易的方法是先把物品逆序排列一下，如下按物品已被逆序排列来叙述。

在这种状况下，能够按照前面经典的状态转移方程来求值，只是输出方案的时候要注意：从N到1输入时，若是f[i][v]==f[i-v]及f[i][v]==f[i-1][f-c[i]]+w[i]同时成立，应该按照后者（即选择了物品i）来输出方案。

求方案总数

对于一个给定了背包容量、物品费用、物品间相互关系（分组、依赖等）的背包问题，除了再给定每一个物品的价值后求可获得的最大价值外，还能够获得装满背包或将背包装至某一指定容量的方案总数。

对于这类改变问法的问题，通常只需将状态转移方程中的max改为sum便可。例如若每件物品均是彻底背包中的物品，转移方程即为

f[i][v]=sum{f[i-1][v],f[i][v-c[i]]}

初始条件f[0][0]=1。

事实上，这样作可行的缘由在于状态转移方程已经考察了全部可能的背包组成方案。

最优方案的总数

这里的最优方案是指物品总价值最大的方案。以01背包为例。

结合求最大总价值和方案总数两个问题的思路，最优方案的总数能够这样求：f[i][v]意义同前述，g[i][v]表示这个子问题的最优方案的总数，则在求f[i][v]的同时求g[i][v]的伪代码以下：

for i=1..N

   for v=0..V

        f[i][v]=max{f[i-1][v],f[i-1][v-c[i]]+w[i]}

        g[i][v]=0

        if(f[i][v]==f[i-1][v])

            inc(g[i][v],g[i-1][v]

        if(f[i][v]==f[i-1][v-c[i]]+w[i])

            inc(g[i][v],g[i-1][v-c[i]])

若是你是第一次看到这样的问题，请仔细体会上面的伪代码。

求次优解、第K优解

对于求次优解、第K优解类的问题，若是相应的最优解问题能写出状态转移方程、用动态规划解决，那么求次优解每每能够相同的复杂度解决，第K优解则比求最优解的复杂度上多一个系数K。

其基本思想是将每一个状态都表示成有序队列，将状态转移方程中的max/min转化成有序队列的合并。这里仍然以01背包为例讲解一下。

首先看01背包求最优解的状态转移方程：f[i][v]=max{f[i-1][v],f[i-1][v-c[i]]+w[i]}。若是要求第K优解，那么状态f[i][v]就应该是一个大小为K的数组f[i][v][1..K]。其中f[i][v][k]表示前i个物品、背包大小为v时，第k优解的值。“f[i][v]是一个大小为K的数组”这一句，熟悉C语言的同窗可能比较好理解，或者也能够简单地理解为在原来的方程中加了一维。显然f[i][v][1..K]这K个数是由大到小排列的，因此咱们把它认为是一个有序队列。

而后原方程就能够解释为：f[i][v]这个有序队列是由f[i-1][v]和f[i-1][v-c[i]]+w[i]这两个有序队列合并获得的。有序队列f[i-1][v]即f[i-1][v][1..K]，f[i-1][v-c[i]]+w[i]则理解为在f[i-1][v-c[i]][1..K]的每一个数上加上w[i]后获得的有序队列。合并这两个有序队列并将结果（的前K项）储存到f[i][v][1..K]中的复杂度是O(K)。最后的答案是f[N][V][K]。总的复杂度是O(NVK)。

为何这个方法正确呢？实际上，一个正确的状态转移方程的求解过程遍历了全部可用的策略，也就覆盖了问题的全部方案。只不过因为是求最优解，因此其它在任何一个策略上达不到最优的方案都被忽略了。若是把每一个状态表示成一个大小为K的数组，并在这个数组中有序的保存该状态可取到的前K个最优值。那么，对于任两个状态的max运算等价于两个由大到小的有序队列的合并。

另外还要注意题目对于“第K优解”的定义，将策略不一样但权值相同的两个方案是看做同一个解仍是不一样的解。若是是前者，则维护有序队列时要保证队列里的数没有重复的。

小结

显然，这里不可能穷尽背包类动态规划问题全部的问法。甚至还存在一类将背包类动态规划问题与其它领域（例如数论、图论）结合起来的问题，在这篇论背包问题的专文中也不会论及。但只要深入领会前述全部类别的背包问题的思路和状态转移方程，遇到其它的变形问法，只要题目难度还属于NOIP，应该也不难想出算法。举一反三、触类旁通，应该也是一个OIer应有的品质吧。

首页

 

P11: 背包问题的搜索解法

《背包问题九讲》的本意是将背包问题做为动态规划问题中的一类进行讲解。但鉴于的确有一些背包问题只能用搜索来解，因此这里也对用搜索解背包问题作简单介绍。大部分以01背包为例，其它的应该能够举一反三。

简单的深搜

对于01背包问题，简单的深搜的复杂度是O(2^N)。就是枚举出全部2^N种将物品放入背包的方案，而后找最优解。基本框架以下：

procedure SearchPack(i,cur_v,cur_w)

    if(i>N)

        if(cur_w>best)

            best=cur_w

        return

    if(cur_v+v[i]<=V)

        SearchPack(i+1,cur_v+v[i],cur_w+w[i])

    SearchPack(i+1,cur_v,cur_w)

其中cur_v和cur_w表示当前解的费用和权值。主程序中调用SearchPack(1,0,0)便可。

搜索的剪枝

基本的剪枝方法不外乎可行性剪枝或最优性剪枝。

可行性剪枝即判断按照当前的搜索路径搜下去可否找到一个可行解，例如：若将剩下全部物品都放入背包仍然没法将背包充满（设题目要求必须将背包充满），则剪枝。

最优性剪枝即判断按照当前的搜索路径搜下去可否找到一个最优解，例如：若加上剩下全部物品的权值也没法获得比当前获得的最优解更优的解，则剪枝。

搜索的顺序

在搜索中，能够认为顺序靠前的物品会被优先考虑。因此利用贪心的思想，将更有可能出如今结果中的物品的顺序提早，能够较快地得出贪心地较优解，更有利于最优性剪枝。因此，能够考虑将按照“性价比”（权值/费用）来排列搜索顺序。

另外一方面，若将费用较大的物品排列在前面，能够较快地填满背包，有利于可行性剪枝。

最后一种能够考虑的方案是：在开始搜索前将输入文件中给定的物品的顺序随机打乱。这样能够避免命题人故意设置的陷阱。

以上三种决定搜索顺序的方法很难说哪一种更好，事实上每种方法都有适用的题目和数据，也有可能将它们在某种程度上混合使用。

子集和问题

子集和问题是一个NP-Complete问题，与前述的（加权的）01背包问题并不相同。给定一个整数的集合S和一个整数X，问是否存在S的一个子集知足其中全部元素的和为X。

这个问题有一个时间复杂度为O(2^(N/2))的较高效的搜索算法，其中N是集合S的大小。

第一步思想是二分。将集合S划分红两个子集S1和S2，它们的大小都是N/2。对于S1和S2，分别枚举出它们全部的2^(N/2)个子集和，保存到某种支持查找的数据结构中，例如hash set。

而后就要将两部分结果合并，寻找是否有和为X的S的子集。事实上，对于S1的某个和为X1的子集，只需寻找S2是否有和为X-X1的子集。

假设采用的hash set是理想的，每次查找和插入都仅花费O(1)的时间。两步的时间复杂度显然都是O(2^(N/2))。

实践中，每每能够先将第一步获得的两组子集和分别排序，而后再用两个指针扫描的方法查找是否有知足要求的子集和。这样的实现，在可接受的时间内能够解决的最大规模约为N=42。

搜索仍是DP?

在看到一道背包问题时，应该用搜索仍是动态规划呢？

首先，能够从数据范围中获得命题人意图的线索。若是一个背包问题能够用DP解，V必定不能很大，不然O(VN)的算法没法承受，而通常的搜索解法都 是仅与N有关，与V无关的。因此，V很大时（例如上百万），命题人的意图就应该是考察搜索。另外一方面，N较大时（例如上百），命题人的意图就颇有多是考 察动态规划了。

另外，当想不出合适的动态规划算法时，就只能用搜索了。例如看到一个从未见过的背包中物品的限制条件，没法想出DP的方程，只好写搜索以谋求必定的分数了。

 

附：USACO中的背包问题

USACO是USA Computing Olympiad的简称，它组织了不少面向全球的计算机竞赛活动。

USACO Trainng是一个很适合初学者的题库，我认为它的特点是题目质量高，按部就班，还配有不错的课文和题目分析。其中关于背包问题的那篇课文 (TEXT Knapsack Problems) 也值得一看。

另外，USACO Contest是USACO常年组织的面向全球的竞赛系列，在此也推荐NOIP选手参加。

我整理了USACO Training中涉及背包问题的题目，应该能够做为不错的习题。其中标加号的是我比较推荐的，标叹号的是我认为对NOIP选手比较有挑战性的。

题目列表

• Inflate (+) （基本01背包）
• Stamps (+)(!) （对初学者有必定挑战性）
• Money
• Nuggets
• Subsets
• Rockers (+) （另外一类有趣的“二维”背包问题）
• Milk4 (!) （很怪的背包问题问法，较难用纯DP求解）

题目简解

如下文字来自我所撰的《USACO心得》一文，该文的完整版本，包括个人程序，可在DD的USACO征程中找到。

Inflate 是加权01 背包问题，也就是说：每种物品只有一件，只能够选择放或者不放；并且每种物品有对应的权值，目标是使总权值最大或最小。它最朴素的状态转移方程是：f[k][i] = max{f[k-1][i] , f[k-1][i-v[k]]+w[k]}。f[k][i]表示前k 件物品花费代价i 能够获得的最大权值。v[k]和w[k]分别是第k 件物品的花费和权值。能够看到， f[k]的求解过程就是使用第k 件物品对f[k-1]进行更新的过程。那么事实上就不用使用二维数组，只须要定义f[i]，而后对于每件物品k，顺序地检查f[i]与f[i-v[k]]+w[k]的大小，若是后者更大，就对前者进行更新。这是背包问题中典型的优化方法。

题目stamps 中，每种物品的使用量没有直接限制，但使用物品的总量有限制。求第一个不能用这有限个物品组成的背包的大小。（能够这样等价地认为）设f[k][i] 表示前k 件物品组成大小为i 的背包， 最少须要物品的数量。则f[k][i]= min{f[k-1][i],f[k-1][i-j*s[k]]+j}，其中j 是选择使用第k 件物品的数目，这个方程运用时能够用和上面同样的方法处理成一维的。求解时先设置一个粗糙的循环上限，即最大的物品乘最多物品数。

Money 是多重背包问题。也就是每一个物品可使用无限屡次。要求解的是构成一种背包的不一样方案总数。基本上就是把通常的多重背包的方程中的min 改为sum 就好了。

Nuggets 的模型也是多重背包。要求求解所给的物品不能刚好放入的背包大小的最大值（可能不存在）。只须要根据“若i、j 互质，则关于x、y 的不定方程i*x+y*j=n 必有正整数解，其中n>i*j”这必定理得出一个循环的上限。 Subsets 子集和问题至关于物品大小是前N 个天然数时求大小为N*(N+1)/4 的 01 背包的方案数。

Rockers 能够利用求解背包问题的思想设计解法。个人状态转移方程以下： f[i][j][t]=max{f[i][j][t-1] , f[i-1][j][t] , f[i-1][j][t-time[i]]+1 , f[i-1][j-1][T]+(t>=time[i])}。其中 f[i][j][t]表示前i 首歌用j 张完整的盘和一张录了t 分钟的盘能够放入的最多歌数，T 是一张光盘的最大容量，t>=time[i]是一个bool 值转换成int 取值为0 或1。但我后来发现我当时设计的状态和方程效率有点低，若是换成这样：f[i][j]=(a,b)表示前i 首歌中选了j 首须要用到a 张完整的光盘以及一张录了b 分钟的光盘，会将时空复杂度都大大下降。这种将状态的值设为二维的方法值得注意。

Milk4 是这些类背包问题中难度最大的一道了。不少人没法作到将它用纯DP 方法求解，而是用迭代加深搜索枚举使用的桶，将其转换成多重背包问题再DP。因为 USACO 的数据弱，迭代加深的深度很小，这样也能够AC，但咱们仍是能够用纯DP 方法将它完美解决的。设f[k]为称量出k 单位牛奶须要的最少的桶数。那么能够用相似多重背包的方法对f 数组反复更新以求得最小值。然而困难在于如何输出字典序最小的方案。咱们能够对每一个i 记录pre_f[i]和pre_v[i]。表示获得i 单位牛奶的过程是用pre_f[i]单位牛奶加上若干个编号为pre_v[i]的桶的牛奶。这样就能够一步步求得获得i 单位牛奶的完整方案。为了使方案的字典序最小，咱们在每次找到一个耗费桶数相同的方案时对已储存的方案和新方案进行比较再决定是否更新方案。为了使这种比较快捷，在使用各类大小的桶对f 数组进行更新时先大后小地进行。USACO 的官方题解正是这一思路。若是认为以上文字比较难理解能够阅读官方程序或个人程序。

首页

---

Copyright (c) 2007 Tianyi Cui

Permission is granted to copy, distribute and/or modify this document under the terms of the GNU Free Documentation License, Version 1.2 or any later version published by the Free Software Foundation.

整理 by stntwm

屡次背包 
屡次背包问题：给定 n 种物品和一个背包。第 i 种物品 的价值是 Wi ，其体积
为 Vi，数量是 Ki件，背包的容量为 C。能够任意选择装入背包中的物品，求装入背
包中物品的最大总价值。 

方法一：能够把此物品拆分红Ki个只能用一次的物品，直接套用 0-1 背包问题的经典动规实现，可是效率过低了，须要寻找更高效的算法。此算法时间复杂度为O(C*∑(Ki)) 

方法二：拆分红体积和价值分别为原来1, 2 , 4..   2^m,    Ki-2^m 倍的几个物品，用0-1背包求解。 时间复杂度为O(C*∑([log2Ki]))

方法三（本文重点）：（对单调队列没有了解的请参见原论文[本文结尾连接]）对于第 i 种物品来讲，已知体积 v，价值 w，数量 k，那么能够按照当前枚举的体积 j 对v的余数把整个动规数组分红 v份，如下是 v=3 的状况： 
j             0 1 2 3 4 5 6 7 8 ……
j mod v   0 1 2 0 1 2 0 1 2 …… 

咱们能够把每一份分开处理，假设余数为 d。 
编号j         0     1        2            3           4             5         ……
对应体积 d    d+v    d+2*v     d+3*v    d+4*v      d+5*v    …… 

如今看到分组之后，编号 j 能够从 j-k 到 j-1 中的任意一个编号转移而来（由于相邻的体积正好相差 v） ，这看上去已经和区间最大值有点类似了。可是注意到因为体积不同，显然体积大的价值也会大于等于体积小的，直接比较是没有意义的，因此还须要把价值修正到同一体积的基础上。好比都退化到 d，也就是说用 F[j*v+d]- j*w来代替原来的价值进入队列。

对于物品i，伪代码以下

1. FOR d: = 0 TO v-1                     //枚举余数，分开处理 
2.   清空队列 
3.   FOR j: = 0 TO (C-d) div v           //j 枚举标号，对应体积为 j*v+d 
4.    INSERT j , F[ j*v+d ] – j * w      //插入队列 
5.    IF A[ L ] < j - k THEN L + 1 → L //若是队列的首元素已经失效 
6.    B[ L ] + j * w → F[ j*v+d ]       //取队列头更新 
7.   END FOR 
8. END FOR 

已知单调队列的效率是 O(n)，那么加上单调队列优化之后的屡次背包，
效率就是 O(n*C)了。 
（详细请参见原论文）

==========================================================

完整程序以下(Pascal)：

var
   a,b,f:array[0..100000] of longint;
   m,s,c,n,t,i,j,l,r,d:longint;
procedure insert(x,y:longint);
begin
   while (l<=r)and(b[r]<=y) do dec(r);
   inc(r);a[r]:=x;b[r]:=y;
end;
begin
   readln(n,t);              //读入数据 n为物品个数 t为背包容量
   for i:=1 to n do
   begin
      read(m,s,c);         //读入当前物品 m为物品体积、s为物品价值、c为物品可用次数（0表示无限制）
      if (c=0)or(t div m<c) then c:=t div m;
      for d:=0 to m-1 do
      begin
         l:=1;r:=0;     //清空队列
         for j:=0 to (t-d) div m do
         begin
            insert(j,f[j*m+d]-j*s);   //将新的点插入队列
            if a[l]<j-c then inc(l);   //删除失效点
            f[j*m+d]:=b[l]+j*s;        //用队列头的值更新f[j*m+d]
         end;
      end;
   end;
   writeln(f[t]);
end.

==========================================================