Hadoop MapReduce中Combiner作用

问题提出： 众所周知，Hadoop框架使用Mapper将数据处理成一个<key,value>键值对，再网络节点间对其进行整理(shuffle)，然后使用Reducer处理数据并进行最终输出。     在上述过程中，我们看到至少两个性能瓶颈：（引用） 1.  如果我们有10亿个数据，Mapper会生成10亿个键值对在网络间进行传输，但如果我们只是对数据求最大值，那么很明显的Mapper只需要输出它所

>>阅读原文<<