005.hive中order by,distribute by,sort by,cluster by

order by,distribute by,sort by,cluster by  查询使用说明

// 根据年份和睦温对气象数据进行排序，以确保全部具备相同年份的行最终都在一个reducer分区中 

// 一个reduce(海量数据,速度很慢)
select year, temperature
order by year asc, temperature desc
limit 100;  


// 多个reduce(海量数据,速度很快)
select year, temperature  
distribute by year  
sort by year asc, temperature desc
limit 100;

order by  (全局排序 ) order by 会对输入作全局排序，所以只有一个reducer（多个reducer没法保证全局有序） 只有一个reducer，会致使当输入规模较大时，须要较长的计算时间。 在hive.mapred.mode=strict模式下，强制必须添加limit限制，这么作的目的是减小reducer数据规模 例如，当限制limit 100时， 若是map的个数为50， 则reducer的输入规模为100*50 distribute by  (相似于分桶) 根据distribute by指定的字段对数据进行划分到不一样的输出reduce 文件中。 sort by   (相似于桶内排序) sort by不是全局排序，其在数据进入reducer前完成排序。 所以，若是用sort by进行排序，而且设置mapred.reduce.tasks>1， 则sort by只保证每一个reducer的输出有序，不保证全局有序。 cluster by cluster by 除了具备 distribute by 的功能外还兼具 sort by 的功能。  可是排序只能是倒序排序，不能指定排序规则为asc 或者desc。 所以，经常认为cluster by = distribute by + sort by 参考地址： http://blog.csdn.net/jojo52013145/article/details/19199595 参考地址： http://blog.sina.com.cn/s/blog_9f48885501017aib.html