MapReduce架构和算法(2)

一个、combiner计划     每map它可能会产生大量的输出,combiner的作用是map输出端先做合并。reducer的数据量。     combiner最基本是实现本地key的归并,combiner具有类似本地的reduce功能     假设不用combiner,那么,全部的结果都是reduce完毕。效率会相对低下。 使用combiner,先完毕的map会在本地聚合,提升速度。    
相关文章
相关标签/搜索