Spark内存分配和管理模式

本文分为2个部分：第一部分介绍了Spark的内存分配和管理模式，第二部分是第一部分的运用，介绍了Spark UI中显示的Storage Memory含义。 内存管理原理 在执行Spark任务时，集群会启动Driver和Executor两种JVM进程，两个进程有各自的使命，但是内存管理模式却是一样。以下进程的内存管理均以Executor进程为例。 进程的内存管理基于JVM，所以默认包括On-Heap

>>阅读原文<<