什么是SparkDAG

对于DAG这个概念如今不少上面都有所应用分布式 概念 在spark里每个操做生成一个RDD,RDD之间连一条边,最后这些RDD和他们之间的边组成一个有向无环图,这个就是DAG。ide 在spark的应用 Spark内核会在须要计算发生的时刻绘制一张关于计算路径的有向无环图,也就是DAG。spa 有了计算的DAG图,Spark内核下一步的任务就是根据DAG图将计算划分红任务集,也就是Stage,这样
相关文章
相关标签/搜索