在ubuntu部署单机和伪分布式hadoop

Hadoop的运行模式：

单机模式（standalone）
       单机模式是Hadoop的默认模式。当首次解压Hadoop的源码包时，Hadoop没法了解硬件安装环境，便保守地选择了最小配置。在这种默认模式下全部3个XML文件均为空。当配置文件为空时，Hadoop会彻底运行在本地。由于不须要与其余节点交互，单机模式就不使用HDFS，也不加载任何Hadoop的守护进程。该模式主要用于开发调试MapReduce程序的应用逻辑。

伪分布模式（Pseudo-Distributed Mode）
      伪分布模式在“单节点集群”上运行Hadoop，其中全部的守护进程都运行在同一台机器上。该模式在单机模式之上增长了代码调试功能，容许你检查内存使用状况，HDFS输入输出，以及其余的守护进程交互。

      全分布模式（Fully Distributed Mode）
     Hadoop守护进程运行在一个集群上。

 

版本：ubuntu 10.04.4，hadoop 1.0.2

1.添加hadoop用户到系统用户

安装前要作一件事——添加一个名为hadoop到系统用户，专门用来作Hadoop测试。

1 sudo addgroup hadoop  
2 sudo adduser --ingroup hadoop hadoop  

如今只是添加了一个用户hadoop，它并不具有管理员权限，所以咱们须要将用户hadoop添加到管理员组：

sudo usermod -aG admin hadoop 

2.安装ssh 

因为Hadoop用ssh通讯，先安装ssh

sudo apt-get install openssh-server  

ssh安装完成之后，先启动服务：

sudo /etc/init.d/ssh start   

启动后，能够经过以下命令查看服务是否正确启动：

ps -e | grep ssh  

 

做为一个安全通讯协议，使用时须要密码，所以咱们要设置成免密码登陆，生成私钥和公钥：

ssh-keygen -t rsa -P ""  

由于我已有私钥，因此会提示是否覆盖当前私钥。第一次操做时会提示输入密码，按Enter直接过，这时会在～/home/{username}/.ssh下生成两个文件：id_rsa和id_rsa.pub，前者为私钥，后者为公钥，如今咱们将公钥追加到authorized_keys中（authorized_keys用于保存全部容许以当前用户身份登陆到ssh客户端用户的公钥内容）：

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys 

如今能够登入ssh确认之后登陆时不用输入密码：

ssh localhost  

登出：

exit          

第二次登陆：

ssh localhost 

登出：

exit          

这样之后登陆就不用输入密码了。

 

3.安装Java

1 sudo apt-get install openjdk-6-jdk  
2 java -version 

 

4.安装hadoop 1.0.2

到官网下载hadoop源文件，这里选择hadoop 1.0.2

解压并放到你但愿的目录中。我是放到/usr/local/hadoop

1 sudo tar xzf hadoop-1.0.2.tar.gz  
2 sudo mv hadoop-1.0.2 /usr/local/hadoop  

 

要确保全部的操做都是在用户hadoop下完成的：

sudo chown -R hadoop:hadoop /usr/local/hadoop

 

5.设定hadoop-env.sh(Java 安装路径)

进入hadoop目录，打开conf目录下到hadoop-env.sh，添加如下信息：

1 export JAVA_HOME=/usr/lib/jvm/java-6-openjdk (视你机器的java安装路径而定)
2 export HADOOP_HOME=/usr/local/hadoop
3 export PATH=$PATH:/usr/local/hadoop/bin

 

而且，让环境变量配置生效source

source /usr/local/hadoop/conf/hadoop-env.sh

至此，hadoop的单机模式已经安装成功。

因而，运行一下hadoop自带的例子WordCount来感觉如下MapReduce过程：

在hadoop目录下新建input文件夹

mkdir input  

将conf中的全部文件拷贝到input文件夹中

cp conf/* input  

运行WordCount程序，并将结果保存到output中

bin/hadoop jar hadoop-examples-1.0.2.jar wordcount input output 

运行

cat output/* 

你会看到conf全部文件的单词和频数都被统计出来。

 

下面是伪分布模式须要的一些配置，继续。

6.设定*-site.xml
这里须要设定3个文件：core-site.xml,hdfs-site.xml,mapred-site.xml，都在/usr/local/hadoop/conf目录下
core-site.xml:  Hadoop Core的配置项，例如HDFS和MapReduce经常使用的I/O设置等。
hdfs-site.xml:  Hadoop 守护进程的配置项，包括namenode，辅助namenode和datanode等。
mapred-site.xml： MapReduce 守护进程的配置项，包括jobtracker和tasktracker。     

接下来编辑那三个文件：

core-site.xml:

 1 <configuration>  
 2     <property>  
 3         <name>fs.default.name</name>  
 4         <value>hdfs://localhost:9000</value>  
 5     </property>  
 6     <property>  
 7         <name>hadoop.tmp.dir</name>  
 8         <value>/usr/local/hadoop/tmp</value>  
 9     </property>  
10 </configuration>

hdfs-site.xml:

 1 <configuration>  
 2     <property>  
 3         <name>dfs.replication</name>  
 4         <value>1</value>  
 5     </property>  
 6     <property>  
 7         <name>dfs.name.dir</name>  
 8         <value>/usr/local/hadoop/hdfs/name</value>  
 9     </property>  
10     <property>  
11         <name>dfs.data.dir</name>  
12         <value>/usr/local/hadoop/hdfs/data</value>  
13     </property>  
14 </configuration> 

mapred-site.xml:

1 <configuration>  
2     <property>  
3         <name>mapred.job.tracker</name>  
4         <value>localhost:9001</value>  
5     </property>  
6 </configuration>  

7.格式化HDFS

经过以上步骤，咱们已经设定好Hadoop单机测试到环境，接着就是启动Hadoop到相关服务，格式化namenode,secondarynamenode,tasktracker:

1 source /usr/local/hadoop/conf/hadoop-env.sh  
2 hadoop namenode -format  

8.启动Hadoop

接着执行start-all.sh来启动全部服务，包括namenode,datanode，start-all.sh脚本用来装载守护进程。

1 hadoop@ubuntu:/usr/local/hadoop$ cd bin  
2 hadoop@ubuntu:/usr/local/hadoop/bin$ start-all.sh  

用Java的jps命令列出全部守护进程来验证安装成功

hadoop@ubuntu:/usr/local/hadoop$ jps 

出现以下列表，代表成功

9.检查运行状态
全部的设置已完成，Hadoop也启动了，如今能够经过下面的操做来查看服务是否正常，在Hadoop中用于监控集群健康状态的Web界面：
http://localhost:50030/     - Hadoop 管理介面
http://localhost:50060/     - Hadoop Task Tracker 状态
http://localhost:50070/     - Hadoop DFS 状态

Hadoop 管理介面：

Hadoop Task Tracker 状态：

Hadoop DFS 状态：

 

至此，hadoop的伪分布模式已经安装成功，因而，再次在伪分布模式下运行一下hadoop自带的例子WordCount来感觉如下MapReduce过程：

这时注意程序是在文件系统dfs运行的，建立的文件也都基于文件系统：

首先在dfs中建立input目录

hadoop@ubuntu:/usr/local/hadoop$ bin/hadoop dfs -mkdir input

将conf中的文件拷贝到dfs中的input

hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -copyFromLocal conf/* input 

 

在伪分布式模式下运行WordCount

hadoop@ubuntu:/usr/local/hadoop$ hadoop jar hadoop-examples-1.0.2.jar wordcount input output 

可看到如下过程

显示输出结果

hadoop@ubuntu:/usr/local/hadoop$ hadoop dfs -cat output/*

当Hadoop结束时，能够经过stop-all.sh脚原本关闭Hadoop的守护进程

hadoop@ubuntu:/usr/local/hadoop$ bin/stop-all.sh