Spark Core源码分析: Spark任务模型

概述 一个Spark的Job分为多个stage,最后一个stage会包括一个或多个ResultTask,前面的stages会包括一个或多个ShuffleMapTasks。java ResultTask执行并将结果返回给driver application。数组 ShuffleMapTask将task的output根据task的partition分离到多个buckets里。一个ShuffleMapT
相关文章
相关标签/搜索