hadoop1.2.1伪分布式安装

export PATH=$JAVA_HOME/bin:$PATHjava

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jarnode


source /etc/profileweb

   java -version #查看java 版本号apache

java version "1.7.0_25"vim

Java(TM) SE Runtime Environment (build 1.7.0_25-b15)bash

Java HotSpot(TM) 64-Bit Server VM (build 23.25-b01, mixed mode)ssh


jdk安装完毕!!!!!!!!jsp


###################################################################分布式


1.安装hadoop   su hadoop oop

进入hadoop 用户

下载hadoop源码安装包

https://archive.apache.org/dist/hadoop/common/

解压安装包  tar -zxvf hadoop-1.2.1.tar.gz

配置环境变量

vim .bash_profile 

#hadoop-1.2.1

export HADOOP_HOME=/home/hadoop/hadoop

export HADOOP_BIN=/home/hadoop/hadoop/bin

export PATH=$PATH:$HADOOP_HOME/sbin:$HADOOP_HOME/bin


 source .bash_profile 


2.配置hadoop用户无密码登录

cd

#ssh-keygen -t rsa  --------------------而后一直按回车键,就会按照默认的选项将生成的密钥保存在.ssh/id_rsa文件中。

  ls -a 

   默认在 ~/.ssh目录生成两个文件:

    id_rsa      :私钥

    id_rsa.pub  :公钥

#cd ~/.ssh

#cp id_rsa.pub authorized_keys 

       或者cat ~/.ssh/id_rsa.pub >> .ssh/authorized_keys  

ssh lj-hd

The authenticity of host 'lj-hd (172.16.2.186)' can't be established.

RSA key fingerprint is 00:8a:8e:66:6d:c6:b2:50:68:71:3b:43:4d:a0:1a:da.

Are you sure you want to continue connecting (yes/no)? yes

Warning: Permanently added 'lj-hd,172.16.2.186' (RSA) to the list of known ho

sts.Last login: Fri Mar 25 10:49:39 2016 from 172.16.2.236


这步完成后,正常状况下就能够无密码登陆本机了,无需输入密码。

ssh无密码登录安装完毕!!!!!!!!!!!!!!!!!


3.hadoop的配置文件目录

cd /home/hadoop/hadoop/conf


hadoop的运行环境

vim hadoop-env.sh   添加

export JAVA_HOME=/usr/local/java/jdk1.7.0_25   ##运行的java环境

export HADOOP_HOME=/home/hadoop/hadoop       ##运行的hadoop环境



 vim core-site.xml

<configuration>

<property>

<!--配置hdfs文件系统的路径-->

 <name>fs.default.name</name>

  <value>hdfs://lj-hd:9000</value> 

  </property>

</configuration>



vim hdfs-site.xml

<property>

    <!--开启web hdfs-->

    <name>dfs.webhdfs.enabled</name>

    <value>true</value>

 </property>   #初装能够不要

<property>

<!--文件备份个数-->

        <name>dfs.replication</name>

        <value>1</value>

</property>


 vim mapred-site.xml

<configuration>  

  <property>  

        <name>mapred.job.tracker</name>  

        <value>lj-hd:9001</value>  

    </property>  

</configuration> 



格式化:要先格式化HDFS:


  hadoop namenode -format


[hadoop@lj-hd ~]$ hadoop namenode -format

Warning: $HADOOP_HOME is deprecated.


16/03/25 11:35:03 INFO namenode.NameNode: STARTUP_MSG: 

/************************************************************

开启集群

start-all.sh

关闭集群 

stop-all.sh 


jps查看守护进程启动状况

27673 SecondaryNameNode

27761 JobTracker

27536 DataNode

27882 TaskTracker

27421 NameNode

27936 Jps


web端口验证

http://172.16.2.186:50070/jobtracker.jsp  

http://172.16.2.186:50070/dfshealth.jsp


hadoop伪分布式安装完毕!!!!!!!!!!

#################################################################




配置文件名                                 意义描述

hadoop-env.sh                              hadoop启动须要的环境变量配置文件  

core-site.xml                              hadoop核心参数配置文件                

hdfs-site.xml                              hdfs主配置文件              

mapred-site.xml                            mapreduce主配置文件(jt)                

masters                                    secondnamenode的主机名列表配置文件      

slavers                                    全部从节点的主机名列表                   

hadoop-metrics2.properties                 metrics统计信息配置文件                

log4j.properties                           hdfs审计日记log4j配置文件       

mapred-queue-acls.xml                      用户队列的acl权限控制配置文件            

fair-scheduler.xml                         公平调度器主配置文件                  

capacity-scheduler.xml                     容量调度器主配置文件  

相关文章
相关标签/搜索