Hadoop数据压缩

1 gzip压缩java 优势：压缩率比较高，并且压缩/解压速度也比较快；hadoop自己支持，在应用中处理gzip格式的文件就和直接处理文本同样；有hadoop native库；大部分linux系统都自带gzip命令，使用方便。linux 缺点：不支持split。算法 应用场景：当每一个文件压缩以后在130M之内的（1个块大小内），均可以考虑用gzip压缩格式。譬如说一天或者一个小时的日志压缩成

>>阅读原文<<