Spark调度系统——面向DAG的调度器DAGScheduler

DAGScheduler实现了面向DAG的高层次调度,即将DAG中的各个RDD划分到不一样的Stage。DAGScheduler能够经过计算将DAG中的一系统RDD划分到不一样的Stage,而后构建这些Stage之间的父子关系,最后将每一个Stage按照Partition切分为多个Task,并以Task集合(即TaskSet)的形式提交给底层的TaskScheduler。apache 全部的组件都
相关文章
相关标签/搜索