hadoop 优化方式

hadoop 优化: MapReduce: Map: 切片优化:调整map的数量 当集群的资源(cup,内存)比较充足。可以适当将切片大小,调小。 这个时候会增加map的数量,加快读取处理速度。 当集群的资源(cup,内存)比较紧缺,可以适当将切片大小,调大。 这个时候会减少map的数量,可以一定程度提高效率。 数据本地化,任务本地化处理:可以适当增加副本数(前提是磁盘空间充足) 调整Reduce
相关文章
相关标签/搜索