Spark ERROR: org.apache.spark.shuffle.FetchFailedException 问题追查

背景 由于这两天升级上线spark 2.2.1 thriftserver服务,对服务运行状况,尤为对失败做业的关注比较高,今天发现有一台机器上的task失败率格外高,报错FetchFailedException,过去我会认为是资源竞争,致使executor因内存不足而挂掉,从而致使block fetch失败。今天仔细一查,发现问题的另外一个缘由。java 下面是追查过程:web 1) 首先看到sp
相关文章
相关标签/搜索