win10上部署Hadoop-2.7.3——非Cygwin、非虚拟机

  开始接触Hadoop,听人说通常都是在Lunix下部署Hadoop,可是本人Lunix不是很了解,因此Google如下如何在Win10下安装Hadoop(以后再在Lunix下弄),找到很多文章,如下是主要参考的文章:html

  一、Hadoop installation on windows without cygwin in 10 mintsjava

  二、Win10系统安装Hadoop与Hbasenode

  三、Apache Hadoop for Windows Platformgit

  这里是按照第一篇文章操做的。github

  1、安装jdk,地址为http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html  具体的操做以及配置环境变量这里就不演示了,这里有一点须要注意的是默认会安装在C:\Program Files 下,开始我也是安装在这里,可是后来报错了,报什么“JAVA_HOME”的错误具体的记不清了。查了一下说是由于安装路径中有空格,晕了,因此安装在以下目录:apache

  2、下载Hadoop,地址为 https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/stable/  这里选择的是hadoop-2.7.3.tar.gzwindows

  3、将其解压到某一文件夹,这里为D:\hadoop\hadoop-2.7.3oracle

  4、添加“HADOOP_HOME”环境变量,并添加到Path环境变量中,按照下图操做ide

  5、修改Hadoop配置文件,在这以前你要先下载sardetushar_gitrepo_download ,以后解压,删掉D:\hadoop\hadoop-2.7.3目录下的bin、etc文件夹,用刚刚解压的替换。
oop

  一、D:\hadoop\hadoop-2.7.3\etc\hadoop\core-site.xml

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>
View Code

  二、D:\hadoop\hadoop-2.7.3\etc\hadoop\mapred-site.xml

<configuration>
    <property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
    </property>
</configuration>
View Code

  三、D:\hadoop\hadoop-2.7.3\etc\hadoop\hdfs-site.xml

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
       <name>dfs.namenode.name.dir</name>
       <value>/hadoop/data/namenode</value>
    </property>
    <property>
       <name>dfs.datanode.data.dir</name>
       <value>/hadoop/data/datanode</value>
    </property>
</configuration>
View Code

  这个配置这里要感谢一下这篇帖子:http://stackoverflow.com/questions/34871814/failed-to-start-namenode-in-hadoop  按照第一篇教程配置会出错的!!!

  若是你的路径形如d:/hadoop/data/namenode 就会出现上图错误,若是路径是在E:,那么上图中的异常就会是E

  四、D:\hadoop\hadoop-2.7.3\etc\hadoop\yarn-site.xml

<configuration>
    <property>
       <name>yarn.nodemanager.aux-services</name>
       <value>mapreduce_shuffle</value>
    </property>
    <property>
       <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
       <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
</configuration>
View Code

  五、D:\hadoop\hadoop-2.7.3\etc\hadoop\hadoop-env.cmd (修改JDK的安装路径)

  6、格式化HDFS文件系统,hdfs namenode -format      以下图,

  若是这一步没有什么异常基本没有问题了。

  7、在命令行(管理员)将目录指向D:\hadoop\hadoop-2.7.3\sbin,键入“start-all”

  Namenode、Datanode、YARN resourcemanager、YARN nodemanager四个进程启动成功,再看一下网站截图:

  localhost:8088

  localhost:50070

  最后咱们可使用“stop-all”中止Hadoop

  至此,Hadoop部署已经结束。第一次接触仍是挺兴奋的!

相关文章
相关标签/搜索