spark提交任务的流程

1.spark任务提交阶段划分 spark提交任务分为五个状态,五个状态之间的有四个转换过程: (1)根据代码中的Transformations肯定RDD。 (2)根据RDD肯定RDD的类型和它们之间的血统关系,生成一个DAG。 (3)将DAG提交给DAGScheduler来划分出不一样的task,以及task执行顺序和依赖关系。 (4)TaskScheduler调度任务,采用集群中配置的调度方式
相关文章
相关标签/搜索