Spark Shuffle之Tungsten-Sort

概述 这篇文章是Spark Shuffle之Sort Shuffle的一部分,介绍UnsafeShuffleWriter的实现,也就是tungsten-sort。 实现 存储 UnsafeShuffleWriter内部使用了和BytesToBytesMap基本相同的数据结构处理map端的输出,不过将其细化为ShuffleExternalSorter和ShuffleInMemorySorter两部分
相关文章
相关标签/搜索