Hive 系列(二)—— Linux 环境下 Hive 的安装部署

1、安装Hive

1.1 下载并解压

下载所需版本的 Hive,这里我下载版本为 cdh5.15.2。下载地址:http://archive.cloudera.com/cdh5/cdh/5/html

# 下载后进行解压
 tar -zxvf hive-1.1.0-cdh5.15.2.tar.gz

1.2 配置环境变量

# vim /etc/profile

添加环境变量:java

export HIVE_HOME=/usr/app/hive-1.1.0-cdh5.15.2
export PATH=$HIVE_HOME/bin:$PATH

使得配置的环境变量当即生效:mysql

# source /etc/profile

1.3 修改配置

1. hive-env.shgit

进入安装目录下的 conf/ 目录,拷贝 Hive 的环境配置模板 flume-env.sh.templategithub

cp hive-env.sh.template hive-env.sh

修改 hive-env.sh,指定 Hadoop 的安装路径:sql

HADOOP_HOME=/usr/app/hadoop-2.6.0-cdh5.15.2

2. hive-site.xmlshell

新建 hive-site.xml 文件,内容以下,主要是配置存放元数据的 MySQL 的地址、驱动、用户名和密码等信息:数据库

<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<configuration>
  <property>
    <name>javax.jdo.option.ConnectionURL</name>
    <value>jdbc:mysql://hadoop001:3306/hadoop_hive?createDatabaseIfNotExist=true</value>
  </property>
  
  <property>
    <name>javax.jdo.option.ConnectionDriverName</name>
    <value>com.mysql.jdbc.Driver</value>
  </property>
  
  <property>
    <name>javax.jdo.option.ConnectionUserName</name>
    <value>root</value>
  </property>
  
  <property>
    <name>javax.jdo.option.ConnectionPassword</name>
    <value>root</value>
  </property>

</configuration>

1.4 拷贝数据库驱动

将 MySQL 驱动包拷贝到 Hive 安装目录的 lib 目录下, MySQL 驱动的下载地址为:https://dev.mysql.com/downloads/connector/j/ , 在本仓库的resources 目录下我也上传了一份,有须要的能够自行下载。apache

1.5 初始化元数据库

  • 当使用的 hive 是 1.x 版本时,能够不进行初始化操做,Hive 会在第一次启动的时候会自动进行初始化,但不会生成全部的元数据信息表,只会初始化必要的一部分,在以后的使用中用到其他表时会自动建立;编程

  • 当使用的 hive 是 2.x 版本时,必须手动初始化元数据库。初始化命令:

    # schematool 命令在安装目录的 bin 目录下,因为上面已经配置过环境变量,在任意位置执行便可
    schematool -dbType mysql -initSchema

这里我使用的是 CDH 的 hive-1.1.0-cdh5.15.2.tar.gz,对应 Hive 1.1.0 版本,能够跳过这一步。

1.6 启动

因为已经将 Hive 的 bin 目录配置到环境变量,直接使用如下命令启动,成功进入交互式命令行后执行 show databases 命令,无异常则表明搭建成功。

# hive

在 Mysql 中也能看到 Hive 建立的库和存放元数据信息的表

2、HiveServer2/beeline

Hive 内置了 HiveServer 和 HiveServer2 服务,二者都容许客户端使用多种编程语言进行链接,可是 HiveServer 不能处理多个客户端的并发请求,所以产生了 HiveServer2。HiveServer2(HS2)容许远程客户端可使用各类编程语言向 Hive 提交请求并检索结果,支持多客户端并发访问和身份验证。HS2 是由多个服务组成的单个进程,其包括基于 Thrift 的 Hive 服务(TCP 或 HTTP)和用于 Web UI 的 Jetty Web 服务。

HiveServer2 拥有本身的 CLI 工具——Beeline。Beeline 是一个基于 SQLLine 的 JDBC 客户端。因为目前 HiveServer2 是 Hive 开发维护的重点,因此官方更加推荐使用 Beeline 而不是 Hive CLI。如下主要讲解 Beeline 的配置方式。

2.1 修改Hadoop配置

修改 hadoop 集群的 core-site.xml 配置文件,增长以下配置,指定 hadoop 的 root 用户能够代理本机上全部的用户。

<property>
 <name>hadoop.proxyuser.root.hosts</name>
 <value>*</value>
</property>
<property>
 <name>hadoop.proxyuser.root.groups</name>
 <value>*</value>
</property>

之因此要配置这一步,是由于 hadoop 2.0 之后引入了安全假装机制,使得 hadoop 不容许上层系统(如 hive)直接将实际用户传递到 hadoop 层,而应该将实际用户传递给一个超级代理,由该代理在 hadoop 上执行操做,以免任意客户端随意操做 hadoop。若是不配置这一步,在以后的链接中可能会抛出 AuthorizationException 异常。

关于 Hadoop 的用户代理机制,能够参考:hadoop 的用户代理机制Superusers Acting On Behalf Of Other Users

2.2 启动hiveserver2

因为上面已经配置过环境变量,这里直接启动便可:

# nohup hiveserver2 &

2.3 使用beeline

可使用如下命令进入 beeline 交互式命令行,出现 Connected 则表明链接成功。

# beeline -u jdbc:hive2://hadoop001:10000 -n root

更多大数据系列文章能够参见 GitHub 开源项目大数据入门指南

相关文章
相关标签/搜索