3.spark运行模式

spark支持的运行模式:本地模式、本地集群模式、standalone模式、yarn模式及mesos模式。java

spark运行模式

本地模式编程

local、local[N]或local[N,maxRetries]。主要用于代码调试和跟踪。不具有容错能力,不适用于生产环境。框架

本地模式只有Driver,没有Master和Worker。执行任务的Executor与Driver在同一个JVM进程中。分布式

本地集群模式ide

local-cluster[N,cores,memory]。也主要用于代码调试和测试,是源码学习经常使用的模式。不具有容错能力,不能用于生产环境。学习

Driver、Master与Worker运行在同一个JVM进程中。每一个Worker可启动多个Executor,每一个Executor都是一个JVM进程。测试

Standalone模式大数据

spark://。具有容错能力而且支持分布式部署运行。spa

Driver在集群以外,能够是任意的客户端程序。Master部署于单独的进程,甚至在单独的机器上,能够有多个,但只能有一个处于激活状态。Worker部署于单独的进程,推荐在单独的机器上部署。调试

YARN模式

yarn模式是将任务管理与资源调度功能交给YARN框架进行处理的模式。分为yarn-client和yarn-cluster两种模式。

yarn-client适用于交互、调试,但愿当即看到应用的输出;yarn-cluster适用于生产环境。

yarn-cluster模式下,driver运行在AM(ApplicationMaster)中,负责向YARN申请资源并监控做业的运行情况。当用户提交完做业后,就能够关闭client,做业会继续在YARN上运行。

yarn-cluster模式不适合运行交互类型的做业。而在yarn-client模式下,AM(ApplicationMaster)仅仅向YARN请求executor,client会和请求的executor通讯来调度工做,client不能离开。

yarn-client模式

yarn-cluster模式

Mesos模式

运行模式相似于YARN,分为client和cluster两种模式。资源调度器分为粗粒度(默认)和细粒度(不推荐)。


忠于技术,热爱分享。欢迎关注公众号:java大数据编程,了解更多技术内容。

这里写图片描述

相关文章
相关标签/搜索