关于Hive使用动态分区插入数据详解

 1.建立一个单一字段分区表

hive>  create table dpartition(id int ,name string )

   partitioned by(ct string  );

   2.往表里装载数据，而且动态创建分区，以city创建动态分区

hive> set hive.exec.dynamic.partition=true;  #开启动态分区，默认是false

set hive.exec.dynamic.partition.mode=nonstrict; #开启容许全部分区都是动态的，不然必需要有静态分区才能使用。

insert overwrite table dpartition

partition(ct)

select id ,name,city from  mytest_tmp2_p;

要点：由于dpartition表中只有两个字段，因此当咱们查询了三个字段时（多了city字段），因此系统默认以最后一个字段city为分区名，由于分区表的分区字段默认也是该表中的字段，且依次排在表中字段的最后面。因此分区须要分区的字段只能放在后面，不能把顺序弄错。若是咱们查询了四个字段的话，则会报错，由于该表加上分区字段也才三个。要注意系统是根据查询字段的位置推断分区名的，而不是字段名称。

--查看可知，hive已经完成了以city字段为分区字段，实现了动态分区。

hive > show partitions dpartition;

partition

ct=beijing

ct=beijing1

注意：使用，insert...select 往表中导入数据时，查询的字段个数必须和目标的字段个数相同，不能多，也不能少,不然会报错。可是若是字段的类型不一致的话，则会使用null值填充，不会报错。而使用load data形式往hive表中装载数据时，则不会检查。若是字段多了则会丢弃，少了则会null值填充。一样若是字段类型不一致，也是使用null值填充。

3.多个分区字段时，实现半自动分区（部分字段静态分区，注意静态分区字段要在动态前面）

1.建立一个只有一个字段，两个分区字段的分区表

hive (fdm_sor)> create table ds_parttion(id int )

              > partitioned by (state string ,ct string );

2.往该分区表半动态分区插入数据

hive>

set hive.exec.dynamici.partition=true;

set hive.exec.dynamic.partition.mode=nonstrict;

insert overwrite table ds_parttion

partition(state='china',ct)  #state分区为静态，ct为动态分区，以查询的city字段为分区名

select id ,city from  mytest_tmp2_p;

3.查询结果显示：

hive (fdm_sor)> select *  from ds_parttion where state='china'

              > ;

ds_parttion.id  ds_parttion.state       ds_parttion.ct

4       china   beijing

3       china   beijing

2       china   beijing

1       china   beijing

4       china   beijing1

3       china   beijing1

2       china   beijing1

1       china   beijing1

hive (fdm_sor)> select *  from ds_parttion where state='china' and ct='beijing';

ds_parttion.id  ds_parttion.state       ds_parttion.ct

4       china   beijing

3       china   beijing

2       china   beijing

1       china   beijing

hive (fdm_sor)> select *  from ds_parttion where state='china' and ct='beijing1';

ds_parttion.id  ds_parttion.state       ds_parttion.ct

4       china   beijing1

3       china   beijing1

2       china   beijing1

1       china   beijing1

Time taken: 0.072 seconds, Fetched: 4 row(s)

4.多个分区字段时，所有实现动态分区插入数据

set hive.exec.dynamici.partition=true;

set hive.exec.dynamic.partition.mode=nonstrict;

insert overwrite table ds_parttion

partition(state,ct)

select id ,country,city from  mytest_tmp2_p;

注意：字段的个数和顺序不能弄错。

5.动态分区表的属性

  使用动态分区表必须配置的参数 ：

    set hive.exec.dynamic.partition =true（默认false）,表示开启动态分区功能

    set hive.exec.dynamic.partition.mode = nonstrict(默认strict),表示容许全部分区都是动态的，不然必须有静态分区字段

动态分区相关的调优参数：

    set  hive.exec.max.dynamic.partitions.pernode=100 （默认100，通常能够设置大一点，好比1000）

       表示每一个maper或reducer能够容许建立的最大动态分区个数，默认是100，超出则会报错。

   set hive.exec.max.dynamic.partitions =1000(默认值)

       表示一个动态分区语句能够建立的最大动态分区个数，超出报错

   set hive.exec.max.created.files =10000(默认) 全局能够建立的最大文件个数，超出报错。