Spark性能调优

参考文章:点击打开链接 Spark作业运行原理 Spark中Task,Partition,RDD、节点数、Executor数、core数目的关系 Spark资源参数调优• Executor的内存分为3块 • 第一块:让task执行代码时,默认占executor总内存的20% • 第二块:task通过shuffle过程拉取上一个stage的task的输出后,进行聚合等操作时使用,默认也是占20% •
相关文章
相关标签/搜索