Spark资源调度和任务调度

整体流程图如下: Spark资源调度和任务调度的流程: 启动集群后,Worker节点会向Master节点汇报资源情况,Master掌握了集群资源情况。当Spark提交一个Application后,根据RDD之间的依赖关系将Application形成一个DAG有向无环图。任务提交后,Spark会在Driver端创建两个对象:DAGScheduler和TaskScheduler,DAGSchedule
相关文章
相关标签/搜索