聊一聊Spark资源动态分配

1. 提出问题   相信不少面试也会问道相似的问题,那么这篇文章就是要围绕这个问题来进行展开进行分析Spark的资源动态分配。   一般咱们在经过spark-submit提交Spark应用到yarn集群的时候,都会配置num-executors来指定分配多少个Executor,可是对于经验不足的新手而言,常常会不知道如何分配合适的资源数,因此常常会选择尽可能多分配资源,认为资源分配的越多任务运行的
相关文章
相关标签/搜索