spark coalesce和repartition区别

结论:es6 repartition是repartition特殊状况,即将原来的RDD分区数增大(会产生shuffle)。 apache 通常用法:repartition增大分区数,repartition减小分区数 测试 测试数据:es5 scala> val arrayRDD = sc.parallelize(Array(1,2,3,4,5,6,7,8,9,10))spa arrayRDD: o
相关文章
相关标签/搜索