Spark的shuffle机制分析

shuffle 一、shuffle概述 二、spark中的shuffle 三、HashShuffle机制 四、SortShuffle机制 一、shuffle概述 shuffle就是对数据进行重组,在MapReduce框架,shuffle是连接Map与Reduce之间的桥梁,Map阶段通过shuffle读取数据并输出到对应的Reduce;而Reduce阶段负责从Map端拉取数据并进行计算。在整个sh
相关文章
相关标签/搜索