CentOS6.7 安装hadoop2.7.5

1、下载hadoop二进制包

下载地址：http://mirrors.hust.edu.cn/apache/hadoop/common/

2、环境准备

一、安装JDK(1.8.0_151)

二、安装openssh-clients

注意： CentOS6.7 默认没有安装openssh-clients，致使系统没有ssh命令，而hadoop脚本中会使用ssh命令，若是不装openssh-clients，启动服务器时会报错

3、安装hadoop

tar zxf hadoop-2.7.5.tar.gz -C /usr/local/
mv /usr/local/hadoop-2.7.5  /usr/local/hadoop
cd /usr/local/hadoop/etc/hadoop

一、修改hadoop-env.sh，配置JAVA_HOME

export JAVA_HOME=/usr/java/jdk1.8.0_151

二、修改core-site.xml文件，在configuration标签中加入如下配置

<configuration>
<property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>
</property>
<property>
    <name>hadoo.tmp.dir</name>
    <value>/usr/local/hadoop/tmp</value>
</property>
</configuration>

三、修改hdfs-site.xml文件，加入如下配置

<configuration>
<property>
     <name>dfs.http.address</name>
     <value>192.168.115.237:50070</value>
   </property>
   <property>
     <name>dfs.replication</name>
     <value>1</value>
   </property>
   <property>
     <name>dfs.namenode.name.dir</name>
     <value>file:/usr/local/hadoop/tmp/dfs/name</value>
   </property>
   <property>
     <name>dfs.datanode.data.dir</name>
     <value>file:/usr/local/hadoop/tmp/dfs/data</value>
   </property>
</configuration>

四、修改marped-site.xml文件

cp mapred-site.xml.template mapred-site.xml
vim mapred-site.xml

<configuration>
<property>  
    <name>marped.job.tracker</name>  
    <value>localhost:9001</value>  
</property>
</configuration>

五、格式化hadoop的HDFS文件系统，在hadoop文件中输入

./bin/hadoop namenode -format

六、若是第5步没有报错，则执行下面的命令，启动hadoop服务

sbin/start-all.sh

启动时，会屡次登陆本机，要求输入root帐户的密码，能够使用公钥认证的方式，进行免密码登陆。这里不介绍任何设置

若是服务正常启动，输入jps能看到如下进程

访问http://ip:50070 能够查看hadoop集群状态

参考：http://blog.csdn.net/qq_32554863/article/details/79409433