Spark 2.0 在作业(job)完成后花费很长时间结束

1.现象 在监控页面job运行完成了,但是程序还在运行,要等好久才能结束 2.原因: spark 2.0 在保存数据的时候  会用 FileOutputCommitter , 问题就出在了 Hadoop 2.0 FileOutputCommitter 实现FileOutputCommitter 里面有两个值得注意的方法:commitTask 和 commitJob。在 Hadoop 2.x 的Fi
相关文章
相关标签/搜索