Hadoop之运行环境搭建

1、虚拟机环境准备

一、克隆虚拟机

二、修改克隆虚拟机静态IP

三、修改主机名

四、关闭防火墙

五、建立hadoop用户

六、配置hadoop用户具备root权限

七、在/opt 目录下建立文件夹

　　1）在/opt 目录下建立module、software文件夹

1 [hadoop@hadoop101 opt]$ sudo mkdir module
2 [hadoop@hadoop101 opt]$ sudo mkdir software

　　2）修改module、software文件夹的全部者

[hadoop@hadoop101 opt]$ sudo chown hadoop:hadoop module/ software/
[hadoop@hadoop101 opt]$ ll
总用量 8
drwxr-xr-x. 2 hadoop hadoop 4096 1月  17 14:37 module
drwxr-xr-x. 2 hadoop hadoop 4096 1月  17 14:38 software

 

2、安装JDK

一、卸载现有JDK

　　1）查询是否安装Java软件

[hadoop@hadoop101 opt]$ rpm -qa | grep java

　　2）若是安装的版本低于1.7，卸载该JDK：

[hadoop@hadoop101 opt]$ sudo rpm -e 软件包

　　3）查看JDK安装路径：

[hadoop@hadoop101 ~]$ which java

二、将jdk软件包 上传至/opt/software/目录下

三、解压 JDK 到/opt/module/ 目录下

[hadoop@hadoop101 software]$ tar -zxvf jdk-8u144-linux-x64.tar.gz -C /opt/module/

四、配置JDK 环境变量

　　1）先获取JDK路径

[hadoop@hadoop101 jdk1.8.0_144]$ pwd
/opt/module/jdk1.8.0_144

　　2）打开 /etc/profile 文件　　

[hadoop@hadoop101 software]$ sudo vi /etc/profile

　　在 profile 文件末尾添加JDK路径

#JAVA_HOME
export JAVA_HOME=/opt/module/jdk1.8.0_144
export PATH=$PATH:$JAVA_HOME/bin

　　3）保存后退出

　　 　　:wq

　　4）让修改后的文件生效　　

[hadoop@hadoop101 jdk1.8.0_144]$ source /etc/profile

五、测试 jdk 是否安装成功

[hadoop@hadoop101 jdk1.8.0_144]# java -version
java version "1.8.0_144"

　　注意：重启（若是java -version 能够用就不用重启）

[hadoop@hadoop101 jdk1.8.0_144]$ sync
[hadoop@hadoop101 jdk1.8.0_144]$ sudo reboot

 

3、安装Hadoop

一、hadoop下载地址

https://archive.apache.org/dist/hadoop/common/hadoop-2.7.2/

二、将下载好的tar包上传至/opt/software/ 目录下

三、解压安装文件至/opt/module 下

[hadoop@hadoop101 software]$ tar -zxvf hadoop-2.7.2.tar.gz -C /opt/module/

四、将 hadoop 添加到环境变量

　　1）获取hadoop安装路径

[hadoop@hadoop101 hadoop-2.7.2]$ pwd
/opt/module/hadoop-2.7.2

　　2）编辑/etc/profile文件　　

[hadoop@hadoop101 hadoop-2.7.2]$ sudo vi /etc/profile

　　在profile 文件末尾添加 hadoop路径：

##HADOOP_HOME
export HADOOP_HOME=/opt/module/hadoop-2.7.2
export PATH=$PATH:$HADOOP_HOME/bin
export PATH=$PATH:$HADOOP_HOME/sbin

　　3）保存后退出

　　:wq

　　4）让修改后的文件生效

[hadoop@ hadoop101 hadoop-2.7.2]$ source /etc/profile

五、测试是否安装成功

[hadoop@hadoop101 hadoop-2.7.2]$ hadoop version
Hadoop 2.7.2

六、重启（若是hadoop命令不能使用）

[hadoop@ hadoop101 hadoop-2.7.2]$ sync
[hadoop@ hadoop101 hadoop-2.7.2]$ sudo reboot

 

4、hadoop目录结构

一、查看hadoop目录结构

二、重要目录

　　1）bin：存放hadoop相关服务（hdfs、yarn）进行操做的脚本

　　2）etc：hadoop的配置文件目录，存放hadoop的配置文件

　　3）lib：存放hadoop的本地库（对数据进行压缩解压缩功能）

　　4）sbin：存放启动或中止hadoop相关服务的脚本

　　5）share：存放hadoop的依赖jar包、文档、和官方案例。