MapReduce 之shuffle过程

我们知道在MapReduce程序在map阶段和reduce阶段之间,会进行shuffle操作。那么我们来详细分析一下shuffle的过程或者原理 在MapTask调用Mapper#map方法之前,会构造一个RecordWriter对象,如果Job没有reduce操作,那么new一个NewDirectOutputCollector 如果包含Reduce操作,就new一个NewOutputCollec
相关文章
相关标签/搜索