Spark面对OOM问题的解决方法及优化总结 (转载)

      Spark中的OOM问题不外乎以下两种情况 map执行中内存溢出 shuffle后内存溢出     map执行中内存溢出代表了所有map类型的操作，包括：flatMap，filter，mapPatitions等。shuffle后内存溢出的shuffle操作包括join，reduceByKey，repartition等操作。后面先总结一下我对Spark内存模型的理解，再总结各种OOM的情

>>阅读原文<<