Hive的sort by, order by, distribute by, cluster by区别？

  Hive的order by语句和其余的SQL语言的定义是同样的，其会对查询结果集执行一个全局排序。这也就是说会有一个全部的数据都经过一个reducer进行处理的过程。对于大数据集，这个过程可能会消耗太过漫长的时间来执行。

  Hive增长了一个可供选择的方式，也就是sort by，其只会在每一个reducer中对数据进行排序，也就是执行一个局部排序的过程。这能够保证每一个reducer的输出数据都是有序的(但并不是全局有序)。这样就能够提升后面进行的全局排序的效率。
  使用sort by，你能够指定执行的reduce个数（set mapred.reduce.tasks=<number>），对输出的数据再执行归并排序，便可以获得所有结果。

  要想使用Hive实现全排序：
  1.使用order by，但这样默认了reducer个数为1，效率低下。
  2.使用sort by + order by。sort by会保证每一个reducer的输出文件是有序的（实际上是废话，每一个reducer的输出固然是有序的！），要想实现全排序，还得加一个order by的过程，就是对sort by的reduce输出结果再进行一次排序。sort by为每一个reducer产生一个排序文件。在有些状况下，你须要控制某个特定行应该到哪一个reducer，一般是为了进行后续的汇集操做。hive的distribute by 就派上用场了：
                               From table
                               select year,temperature
                               distribute by year
                               sort by year asc,temperatue desc;

  上面实现了局部排序，且规定了：根据年份和睦温对气象数据进行排序，以确保全部具备相同年份的行最终都在一个reducer分区中（文件下），能够看出，distribute by常常与 sort by一块儿使用。。
  须要注意的是，hive要求distribute by要写在sort by以前。

  cluster by:cluster by column = distribute by column + sort by column