Spark调优之Shuffle调优 调节HashShuffleManager与SortShuffleManager

简述Shuffle Manager 首先声明一点,笔者之前写的spark shuffle调优,基于的Shuffle Manager是HashShuffleManager。而Spark1.2.x以后,HashShuffleManager不再是Spark默认的Shuffle Manager。 Spark1.2.x以后,Spark默认的Shuffle Manager是SortShuffleManager
相关文章
相关标签/搜索