Spark2.x学习笔记:十一、RDD依赖关系与stage划分

十一、 RDD依赖关系与stage划分 Spark中RDD的高效与DAG图有着莫大的关系,在DAG调度中须要对计算过程划分stage,而划分依据就是RDD之间的依赖关系。web 11.1 窄依赖与宽依赖 针对不一样的转换函数,RDD之间的依赖关系分类窄依赖(narrow dependency)和宽依赖(wide dependency, 也称 shuffle dependency)。编程 (1)窄依
相关文章
相关标签/搜索