[Hadoop]MapReducer工作过程

1. 从输入到输出 一个MapReducer作业经过了input,map,combine,reduce,output五个阶段,其中combine阶段并不一定发生,map输出的中间结果被分到reduce的过程成为shuffle(数据清洗)。 在shuffle阶段还会发生copy(复制)和sort(排序)。 在MapReduce的过程中,一个作业被分成Map和Reducer两个计算阶段,它们由一个或者
相关文章
相关标签/搜索