MapReduce中FileInputFormat的文件切片机制

1、mapTask并行度的决定机制 一个job的map阶段并行度由客户端在提交job时决定 而客户端对map阶段并行度的规划的基本逻辑为: 将待处理数据执行逻辑切片(即按照一个特定切片大小,将待处理数据划分成逻辑上的多个split),然后每一个split分配一个mapTask并行实例处理   这段逻辑及形成的切片规划描述文件,由FileInputFormat实现类的getSplits()方法完成,
相关文章
相关标签/搜索