spark JVM调优之调节executor堆外内存与链接等待时长

executor堆外内存 有时候,若是你的spark做业处理的数据量特别特别大,几亿数据量;而后spark做业一运行,时不时的报错,shuffle file cannot find,executor、task lost,out of memory(内存溢出); 多是说executor的堆外内存不太够用,致使executor在运行的过程当中,可能会内存溢出;而后可能致使后续的stage的task在运
相关文章
相关标签/搜索