MapReduce 工作机制详解(三)Shuffle 机制

Shuffle 机制 map 阶段处理的数据如何传递给 e reduce 阶段,是 MapReduce 框架中最关键的一个流程,这个流程就叫 shuffle。 shuffle: 洗牌、发牌——(核心机制:数据分区,排序,合并)。 shuffle 是 Mapreduce 的核心,它分布在 Mapreduce 的 map 阶段和 reduce阶段。一般把从 p Map 产生输出开始到 e Reduce
相关文章
相关标签/搜索