Ubuntu11.10下安装Hadoop1.0.0(单机伪分布式)

环境配置:Ubuntu11.10,Hadoop1.0.0java

Ubuntu11.10

安装sshnode

apt-get install ssh

安装rsync

apt-get install rsync

配置ssh免密码登陆

ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa
cat ~/.ssh/id_dsa.pub >>~/.ssh/authorized_keys

验证是否成功

ssh localhost

下载Hadoop1.0.0,JDKlinux

新建 linux 终端,创建app目录,Java和Hadoop都将安装在此目录中。web

mkdir /home/app

接下来,安装Java和Hadoop,Hadoop解压便可。

cd /home/app
chmod +x jdk-6u30-linux-i586.bin
./jdk-6u30-linux-i586.bin

tar zxf hadoop-1.0.0-bin.tar.gz

配置JDK环境变量shell

vi /etc/profile

增长下面语句到最后

export JAVA_HOME=/home/app/jdk1.6.0_30
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

接下来开始配置Hadoop

进入Hadoop目录apache

cd /home/app/hadoop-1.0.0

修改配置文件,指定JDk安装路径

vi conf/hadoop-env.sh

export JAVA_HOME=/home/app/jdk1.6.0_30

修改Hadoop核心配置文件core-site.xml,这里配置的是HDFS的地址和端口号

vi conf/core-site.xml

<configuration>
	<property>
		<name>fs.default.name</name>
		<value>hdfs://localhost:9000</value>	
	</property>
</configuration>

修改Hadoop中HDFS的配置,配置的备份方式默认为3,由于安装的是单机版,因此须要改成1

vi conf/hdfs-site.xml

<configuration>
	<property>
		<name>dfs.replication</name>
		<value>1</value>
	</property>
</configuration>

修改Hadoop中MapReduce的配置文件,配置的是JobTracker的地址和端口

vi conf/mapred-site.xml

<configuration>
	<property>
		<name>mapred.job.tracker</name>
		<value>localhost:9001</value>
	</property>
</configuration>

接下来,启动Hadoop,在启动以前,须要格式化Hadoop的文件系统HDFS,进入Hadoop文件夹,输入下面命令

bin/hadoop namenode -format

而后启动Hadoop,输入命令

bin/start-all.sh

这个命令为全部服务所有启动。

最后,验证Hadoop是否安装成功。打开浏览器,分别输入一下网址:浏览器

http://localhost:50030    (MapReduce的Web页面)oracle

http://localhost:50070    (HDfS的web页面)app

若是都能查看,说明安装成功。ssh

Hadoop分别从三个角度将主机划分为两种角色:

第一,划分为master和slave,即主人与奴隶

第二,从HDFS的角度,将主机划分为namenode和datanode(在分布式文件系统中,目录的管理很重要,管理目录的就至关于主人,而namenode就是目录管理者)。

第三,从MapReduce的角度,将主机划分为JobTracker和TaskTracker(一个job常常被划分为多个task,从这个角度不难理解它们之间的关系)。

相关文章
相关标签/搜索