Hadoop_配置Hadoop开发环境(Eclipse)

一般咱们能够用Eclipse做为Hadoop程序的开发平台。git

1)  下载Eclipsegithub

下载地址:http://www.eclipse.org/downloads/eclipse

根据操做系统类型,选择合适的版本下载并安装。oop

2)  下载并编译Hadoop的Eclipse插件spa

网上可直接下载到Hadoop 1.x 的Eclipse插件,可是该插件和Hadoop2.2 不兼容,因此没法使用。操作系统

Hadoop 2.2 的Eclipse插件正处于开发过程当中,你能够直接下载源代码并编译。本人在编译过程当中碰到了一些ant的配置错误致使没法正常编译,修改ant配置即编译成功,为方便你们,我直接提供编译后的.jar文件供你们下载:.net

代码下载地址:https://github.com/winghc/hadoop2x-eclipse-plugin插件

编译后的插件下载地址:http://download.csdn.net/detail/zythy/67351673d

3)  配置Hadoop插件code

将下载的hadoop-eclipse-plugin-2.2.0.jar文件放到Eclipse的dropins目录下,重启Eclipse便可看到该插件已生效。

经过Open Perspective菜单打开Map Reduce视图,以下:

 

 

选中大象图标,右键点击Edit Hadoop Location编辑Hadoop配置信息:

本地新建New Hadoop location

系统项目中使用以下两个配置:
[bigdatagfts@gft ~]$ cat ./hadoop/core-site.xml
<configuration>
<property>
    <name>fs.defaultFS</name>
    <value>hdfs://10.116.37.181:9000</value>
</property>
<property>
  <name>hadoop.tmp.dir</name>
  <value>/home/bigdatagfts/hadoop/local/var/hadoop/tmp/hadoop-${user.name}</value>
</property>
</configuration>


[bigdatagfts@gft ~]$ cat /home/bigdatagfts/hadoop/etc/hadoop/yarn-site.xml
<property>
   <name>yarn.resourcemanager.address</name>
   <value>vm-45e5-3412:8032</value>
 </property>

 

填写正确的Map/Reduce和HDFS信息。

 

 

4)  新建简单Mapreduce项目

经过向导新建一个Map/Reduce项目。在此过程当中,请配置Hadoop的安装路径。

 

5)  经过Eclipse访问DFS

打开Resource视图,便可看到DFS:

 

 

此时,你可对DFS进行一些操做,好比上传本地文件到HDFS等等,以下图:


相关文章
相关标签/搜索