hadoop2.x入门:在windows上用Eclipse编写程序

虽然有许多人推崇vim编程,可是本人并不习惯vim编程,本人仍是比较在window下使用eclipse编程。另外因为本人linux安装的都是最小化安装,没有图形界面,所以使用windows的eclipse编写mapreduce程序远程发送至linux的hadoop下运行。java

默认已经在linux上装好了Hadoop而且在windows上安装了Eclipse环境linux

1. 在windows上搭建Hadoop环境

固然咱们不是在windows上安装hadoop,在window上安装hadoop须要其余的环境,咱们只是使用hadoop的库而已。git

1. 在windows上下载hadoop安装包并解压
咱们先下载hadoop:下载地址
咱们主要使用它的库,仅仅解压就能够。github

image)shell

解压Hadoop压缩包
imageapache

2.在eclipse上安装hadoop插件编程

下载hadoop-eclipse-plugin-2.6.0.jar:vim

官方的网太慢,下载不下来。将下载好的插件移动到eclipse安装目录下的plugins文件夹下。而后从新启动eclispewindows

3. 配置环境
打开eclipse,在window -> Preferences ->Hadoop Map/Reduce下设置hadoop的解压路径
image并发

切换至Map/Reduce项目窗口
image

新建一个hadoop配置
image
而后设置Hadoop链接
image

4. 启动hadoop
咱们在linux上启动hadoop集群

5. 测试: hdfs文件管理
咱们能够尝试上传和下载文件
image
成功!

6.测试:建立一个MapReduce项目

咱们建立一个MapReduce项目

image
image

咱们查看建立的结果
image
咱们会发现有许多hadoop的jar包
而后咱们就能够使用eclipse编写mapreduce程序了!
image

2. 安装SFTP Plug-in for Eclipse

咱们编写好了而后呢?在windows上因为没有hadoop环境所以没法运行。能够发送的安装hadoop的linux下运行。
咱们在Eclipse上安装一个“SFTP Plug-in”插件,官方网站:SFTP Plug-in for Eclipse
对于安装的介绍:

You need Eclipse SDK 3.3(or higher) to enjoy this software.

Help > Software Updates > Find and Install...
Choose Search for new features to install
Click New Remote Site..., and then put http://eclipse.jcraft.com/ for the URL field.
Choose SFTP Plug-in, and then click Select Required button.

For Eclipse SDK 3.2, try the Update Site
http://eclipse.jcraft.com/3.2/

其实已经挺详细了,可是仍是介绍一下吧:
1. 点击"Help" -> "Install New software..."
这里写图片描述

2. 添加插件下载地址的网址
image

3. 选择 SFTP Plug-in,点击“Next...”
image
而后“Next”->赞成条款,"Next" -> 选择,"Next"

4. 重启
5. 选择“Remote System Explorer”
image
关于他的配置在`"window"->"preferences" ->"Remote Systems"下

3. 编写MapReduce并发送至linux下运行

而后咱们怎么使用呢?

1. 编写一个MapReduce程序
我先在“Map/Reduce”视图下编写一个MapReduce程序
这里写图片描述

2. 将class文件打成jar包
切换至“Remote System Explorer”视图,将项目向下的bin目录打成jar包。在eclipse中当java文件保存后会自动编译为class文件。所以不须要咱们使用javac编译。
images
修改打包的jar的名字为咱们想要的名字后运行
images
咱们会发现当前项目的bin目录下会有咱们刚刚打出的jar包
image

3. 设置远程管理linux文件
新建一个链接
image

选择“linux”,点击“Next..”
image

配置Host,点击next...
image

向下依次选择"ssh.files"->"processes.shell.linux"->"ssh.shell"->"ssh.terminals",点击“finish”而后咱们就能够输入用户名和密码远程linux了

4. 将jar包拷贝至linux下
点击“sftp files”下的“My Home”,输入用户名和密码就就能够将本地的文件拷贝至linux上(就是复制文件,而后粘贴),能够查看复制结果:
image
5.远程链接hadoop运行该程序 在“ssh Teminals”->"Launch Teminal"运行linux命令行。 咱们能够在Teminal窗口下运行该程序。

相关文章
相关标签/搜索