spark任务执行流程

●spark任务执行流程 四个步骤web 1.构建DAG(调用RDD上的方法) 2.DAGScheduler将DAG切分Stage(切分的依据是shuffle),将Stage生成的Task一TaskSet的形式给TaskScheduler 3.TaskScheduler调度Task(Driver端根据资源状况将Task调度到相应的Exector中) 4.Exetor接受Task,而后将Task丢到
相关文章
相关标签/搜索