使用sqoop从mysql导入到hive基本操做

一、编码基本设置

因为hdfs使用的是utf-8的编码格式，因此无论是从mysql导入，仍是直接上传文件，编码格式必须是utf-8,不然就会出现乱码，全部有几个编码设置点要注意：

（1）、源数据mysql须要设置my.cnf配置文件  （不一样版本可能设置不同）    

   [client] 

 default-character-set=utf8  

 /*[mysqld]*/  

character-set-server=utf8 

（2）、源数据库（database编码确认设置）

    mysql> show variables like 'char%';
+--------------------------+----------------------------+
| Variable_name            | Value                      |
+--------------------------+----------------------------+
| character_set_client     | utf8                       |
| character_set_connection | utf8                       |
| character_set_database   | utf8                       |
| character_set_filesystem | binary                     |
| character_set_results    | utf8                       |
| character_set_server     | utf8                       |
| character_set_system     | utf8                       |
| character_sets_dir       | /usr/share/mysql/charsets/ |

若是不是以上格式，使用该指令设置，变换不一样参数便可：set character_set_server=utf8;

（3）读取源数据的jdbc链接加上utf-8编码

      sqoop import --connect jdbc:mysql://10.0.13.116:3306/test?characterEncoding=UTF-8   --username hive --password for3edc4rfv --table driver --delete-target-dir --hive-overwrite --fields-terminated-by "," --target-dir /apps/hive/warehouse/t_driver

（4）hive的jdbc链接也设置utf-8

   <property>
      <name>javax.jdo.option.ConnectionURL</name>
      <value>jdbc:mysql://localhost/hive?createDatabaseIfNotExist=true&amp;characterEncoding=UTF-8</value>
    </property>

 

二、执行sqoop指令的权限

  因为sqoop须要操做hdfs,因此须要使用hdfs帐号执行sqoop指令，不然要报无权限错误；