hadoop(05)、使用Eclipse链接远程Hadoop集群

         在前面的文中咱们分别搭建了单机和集群的Hadoop环境,今天咱们将实践使用Eclispe开发工具安装linux

hadoop的开发插件,而且使用hadoop插件链接Hadoop远程集群,文中有什么不对的地方,请你们指出来git

共同窗习。github

1、环境准备

1.Eclipse Java EE IDE for Web Developers- Oxygen.2 Release (4.7.2)web

2.Eclipse的Hadoop插件hadoop-eclipse-plugin-2.6.0.jareclipse

3.Hadoop集群环境工具

4.deepin15.5稳定版linux系统oop

注:以上都是本次实践的版本,你们能够选择适合本身的版本学习

2、安装Eclispe的Hadoop开发插件

1.下载Eclipse的Hadoop插件hadoop-eclipse-plugin-2.6.0.jar,下载地址:开发工具

https://github.com/winghc/hadoop2x-eclipse-pluginspa

2.将插件复制到eclipse安装目录下的plugins目录

3.启动或者重启Eclispe开发工具

4.打开eclipse的show View窗口,看到了咱们安装的Hadoop的插件

5.点击Map/Reduce Locations打开视图

出现的是hadoop的Map/Reduce开发相关的视图,在视图区域右上方有蓝色小象的添加按钮,此时插件工做配置完成

3、启动Hadoop集群环境

1.SSH链接Hadoop集群的master节点机器,启动hadoop集群

2.验证集群是否正常启动

在master节点执行hadoop dfsadmin -report验证

打开yarn的web查看

hadoop集群搭建可参考《hadoop(04)、Hadoop 集群模式搭建实践

4、建立配置Map/Reduce Locations

1. 打开eclispe到Map/Reduce Locations视图窗口

2.点击蓝色小大象按钮

3.配置Map/Reduce Locations信息

注意填写参数:

Lacation Name:为该位置命名
MapReduce Master:与$HADOOP_DIRCONF/mapred-site.xml配置保持一致;
HDFS Master:与$HADOOP_DIRCONF/core-site.xml配置保持一致
User Name:登陆hadoop用户名,能够填写其余的

4.点击完成便可

5.验证配置,点击DFS  Locations

5、总结

         本文主要实践了eclispe安装hadoop的插件,和在eclispe下使用hadoop插件链接远程hadoop集群的操做,后面咱们将使用改开发环境开发hadoop的做业任务。

相关文章
相关标签/搜索