Spark内存管理及源码阅读

本文主要是参考学习了网上作者卢龙的一篇文章以及自己对源码的解读两部分组成。参考原文地址Apache Spark内存管理详解。感谢原作者~ spark的内存 按照存储位置主要分为两大块 jvm堆内 主要分为三部分 storage 用于rdd的缓存和存储 默认占60%?,可以占用execution的空间,但是当execution空间不足的时候需要释放 execution 用于reduce的shuffl
相关文章
相关标签/搜索