MapReduce 工作原理

MapReduce 工作原理如下图:    说明: 1、split 为逻辑分片、block 为物理块 2、每条数据写入缓冲区时附带分区属性 3、reduce 端通过 partition 识别 copy map端对应的分区数据,一个partition 对应一个reduce  4、reduce 端 copy 线程 copy 数据到缓存,缓存存储不了数据时写到内存,内存到内存有merge,当内存存储的m
相关文章
相关标签/搜索