spark DAG 笔记

DAG,有向无环图,Directed Acyclic Graph的缩写,常用于建模。 Spark中使用DAG对RDD的关系进行建模,描述了RDD的依赖关系,这种关系也被称之为lineage,RDD的依赖关系使用Dependency维护,参考Spark RDD之Dependency,DAG在Spark中的对应的实现为DAGScheduler。 DAGScheduler 作业(Job)调用RDD的一个
相关文章
相关标签/搜索