hadoop安装与配置()

此步骤是在虚拟机上所做的实验

第一步:关闭防火墙

在这里插入图片描述
首先进入特权用户模式,
service iptables stop :关闭防火墙
chkconfig iptables off :关闭开机启动防火墙
service iptables status :查看防火墙状态

第二步:设置网络

首先在虚拟机的"编辑"工具栏中找到虚拟网络设置,进入"NET模式"查看一下本机的IP地址和网关,然后进入虚拟机,右键点击虚拟机顶部的两个重叠的电脑图标,点击"edit connections",选中’‘System eth0’’,选择"IPv4"进入后点击下拉框,选择"manual",add输入你要设置的IP地址,子网掩码,网关(除IP地址外其余均与本机相同)应用退出。

第三步:设置主机名

在这里插入图片描述
在特权用户模式下进行操作以防权限不足,首先进入network文件,将文件中第二行等号后面的"localhost.localdomain"修改为你想创建的主机名;保存退出后进入hosts文件,在文件的最后另起一行,输入你设置的IP地址再输入你的主机名如下图:
在这里插入图片描述
“ping 主机名”(如:ping node1)进行检测。

第四步:ssh 免密登陆

为防止权限问题从这一步开始使用普通用户进行操作,cd 一下进入用户目录输入命令’cd .ssh/‘进入.ssh目录下,输入命令’ssh-keygen -f rsa’(生成公私钥)在.ssh目录下会出现两个文件,将后缀为.pub的文件复制到authorized_keys中,然后重启(在特权用户模式下输入命令’reboot’)。

第五步:配置jdk和hadoop路径

首先在你的用户目录下创建两个文件夹以我为例创建java和hadoop,分别放入jdk和hadoop的压缩文件,使用命令’tar zxvf 压缩包名称’进行解压缩,建议对解压完成之后的文件重命名(简单一点以后好用如我的:jdk和hadoop)。然后输入命令’vim ~/.bashrc’进入用户文件夹下的.bashrc文件设置以下内容:
在这里插入图片描述
安装路径根据自己的情况进行修改。完成之后输入命令’source ~/.bashrc’进行启动,检测jdk的命令是’java -version’检测Hadoop的命令是’hadoop’。

第六步:配置文件

本步骤一共需要配置6个文件,在配置文件之前先在hadoop安装目录下新建一个tmp目录,后面有用。进入hadoop安装目录下的etc目录,再进入hadoop目录,然后ls查看此目录下的文件名称,进行文件配置。

第一个:hadoop-env.sh

在文件第25行"export JAVA_HOME=${JAVA_HOME}",此处要将等号后面的部分修改为你的jdk的安装路径(就是在.bashrc中设置的路径)。

第二个:yarn-env.sh

在文件的第23行有"#export JAVA_HOME=/home/…“将前面的”#"号删除并对齐,将等号后面的地址修改为正确的地址。

第三个:hdfs-site.xml

如下图:
在这里插入图片描述
里面的地址根据自己的情况进行修改。

第四个:yarn-site.xml

如下图:
在这里插入图片描述

第五个:core-site.xml

如下图:
在这里插入图片描述
此处tmp目录地址根据自己创建的情况进行修改。

第六个:mapred-site.xml

原文件夹中没有mapred-site.xml文件,但有一个文件叫做mapred-site.xml.t…(可以使用tab键进行补全),将这个文件重命名为我们需要的文件名。修改内容如下图:
在这里插入图片描述

第七步:格式化与启动

进入hadoop安装目录下的bin目录输入命’hadoop namenode -format’进行格式化,如果没有错误,则进入hadoop 安装目录下的sbin目录,先启动"start-dfs.sh"脚本,再启动"start-all.sh"脚本。

第八步:结果检测

输入命令’jps’进行检测,会有6项,如果没有执行’start-dfs.sh’脚本,只执行了’start-all.sh’脚本,出现5项也是可以的。