Spark的job触发流程原理与stage划分算法分析

Spark的application中有多个action操做,每一个action操做都会触发RDD的runJob操做,每一个job以action操做为界限,而RDD的runJob则在SparkContext的runJob中调用,SparkContext的runJob底层会调用dagScheduler的runJob方法。 在DAGScheduler中,会将每一个job划分红多个stage,每一个sta
相关文章
相关标签/搜索