任务的推测执行

1.作业完成时间取决于最慢的任务完成时间 一个作业由若干个Map任务和Reduce任务构成。因硬件老化、软件Bug等,某些任务可能运行非常慢。 思考:系统中有99%的Map任务都完成了,只有少数几个Map老是进度很慢,完不成,怎么办? 2.推测执行机制 发现拖后腿的任务,比如某个任务运行速度远慢于任务平均速度。为拖后腿任务启动一个备份任务,同时运行。谁先运行完,则采用谁的结果。 3.执行推测任务的
相关文章
相关标签/搜索