Hadoop JAVA 开发说明

http://blog.sina.com.cn/s/blog_68b4c68f0101447y.html

 

做为Hadoop程序员，他要作的事情就是：

一、定义Mapper，处理输入的Key-Value对，输出中间结果。
二、定义Reducer，可选，对中间结果进行规约，输出最终结果。
三、定义InputFormat 和OutputFormat，可选，InputFormat将每行输入文件的内容转换为Java类供Mapper函数使用，不定义时默认为String。
四、定义main函数，在里面定义一个Job并运行它。

而后的事情就交给系统了。

1.基本概念：Hadoop的HDFS实现了google的GFS文件系统，NameNode做为文件系统的负责调度运行在master，DataNode运行在每一个机器上。同时Hadoop实现了Google的MapReduce，JobTracker做为MapReduce的总调度运行在master，TaskTracker则运行在每一个机器上执行Task。

2.main()函数，建立JobConf，定义Mapper，Reducer，Input/OutputFormat 和输入输出文件目录，最后把Job提交給JobTracker，等待Job结束。

3.JobTracker，建立一个InputFormat的实例，调用它的getSplits()方法，把输入目录的文件拆分红FileSplist做为Mapper task 的输入，生成Mapper task加入Queue。

4.TaskTracker 向 JobTracker索求下一个Map/Reduce。

Mapper Task先从InputFormat建立RecordReader，循环读入FileSplits的内容生成Key与Value，传给Mapper函数，处理完后中间结果写成SequenceFile.
Reducer Task 从运行Mapper的TaskTracker的Jetty上使用http协议获取所需的中间内容（33%），Sort/Merge后（66%），执行Reducer函数，最后按照OutputFormat写入结果目录。

TaskTracker 每10秒向JobTracker报告一次运行状况，每完成一个Task10秒后，就会向JobTracker索求下一个Task。

Nutch项目的所有数据处理都构建在Hadoop之上，详见Scalable Computing with Hadoop 。

2、程序员编写的代码

咱们作一个简单的分布式的Grep，简单对输入文件进行逐行的正则匹配，若是符合就将该行打印到输出文件。由于是简单的所有输出，因此咱们只要写Mapper函数，不用写Reducer函数，也不用定义Input/Output Format。

package demo.hadoop

public class HadoopGrep {

public static class RegMapper extends MapReduceBase implements Mapper {

private Pattern pattern;

public void configure(JobConf job) {
pattern = Pattern.compile(job.get( " mapred.mapper.regex " ));
}

public void map(WritableComparable key, Writable value, OutputCollector output, Reporter reporter)
throws IOException {
String text = ((Text) value).toString();
Matcher matcher = pattern.matcher(text);
if (matcher.find()) {
output.collect(key, value);
}
}
}

private HadoopGrep () {
} // singleton

public static void main(String[] args) throws Exception {

JobConf grepJob = new JobConf(HadoopGrep. class );
grepJob.setJobName( " grep-search " );
grepJob.set( " mapred.mapper.regex " , args[ 2 ]);

grepJob.setInputPath( new Path(args[ 0 ]));
grepJob.setOutputPath( new Path(args[ 1 ]));
grepJob.setMapperClass(RegMapper. class );
grepJob.setReducerClass(IdentityReducer. class );

JobClient.runJob(grepJob);
}
}

RegMapper类的configure()函数接受由main函数传入的查找字符串，map() 函数进行正则匹配，key是行数，value是文件行的内容，符合的文件行放入中间结果。
main()函数定义由命令行参数传入的输入输出目录和匹配字符串，Mapper函数为RegMapper类，Reduce函数是什么都不作，直接把中间结果输出到最终结果的的IdentityReducer类，运行Job。

整个代码很是简单，丝毫没有分布式编程的任何细节。

三.运行Hadoop程序

Hadoop这方面的文档写得不全面，综合参考GettingStartedWithHadoop 与Nutch Hadoop Tutorial 两篇后，再碰了不少钉子才终于完整的跑起来了，记录以下：

3.1 local运行模式

彻底不进行任何分布式计算，不动用任何namenode,datanode的作法，适合一开始作调试代码。
解压hadoop，其中conf目录是配置目录，hadoop的配置文件在hadoop-default.xml，若是要修改配置，不是直接修改该文件，而是修改hadoop-site.xml，将该属性在hadoop-site.xml里从新赋值。
hadoop-default.xml的默认配置已是local运行，不用任何修改，配置目录里惟一必须修改的是hadoop-env.sh 里JAVA_HOME 的位置。

将编译好的HadoopGrep与RegMapper.class 放入hadoop/build/classes/demo/hadoop/目录 找一个比较大的log文件放入一个目录，而后运行

hadoop / bin / hadoop demo.hadoop.HadoopGrep log文件所在目录 任意的输出目录 grep的字符串

查看输出目录的结果，查看hadoop/logs/里的运行日志。 
在从新运行前，先删掉输出目录。

3.2 单机集群运行模式

如今来搞一下只有单机的集群.假设以完成3.1中的设置，本机名为hadoopserver
第1步. 而后修改hadoop-site.xml ，加入以下内容：

< property > 
< name > fs.default.name </ name > 
< value > hadoopserver:9000 </ value > 
</ property > 
< property > 
< name > mapred.job.tracker </ name > 
< value > hadoopserver:9001 </ value > 
</ property > 
< property > 
< name > dfs.replication </ name > 
< value > 1 </ value > 
</ property >

今后就将运行从local文件系统转向了hadoop的hdfs系统，mapreduce的jobtracker也从local的进程内操做变成了分布式的任务系统，9000，9001两个端口号是随便选择的两个空余端口号。

另外，若是你的/tmp目录不够大，可能还要修改hadoop.tmp.dir属性。

第2步. 增长ssh不输入密码便可登录。

由于Hadoop须要不用输入密码的ssh来进行调度，在不su的状态下，在本身的home目录运行ssh-keygen -t rsa ,而后一路回车生成密钥，再进入.ssh目录,cp id_rsa.pub authorized_keys
详细能够man 一下ssh, 此时执行ssh hadoopserver，不须要输入任何密码就能进入了。

3.格式化namenode，执行
bin/hadoop namenode -format

4.启动Hadoop
执行hadoop/bin/start-all.sh, 在本机启动namenode,datanode,jobtracker,tasktracker

5.如今将待查找的log文件放入hdfs,。
执行hadoop/bin/hadoop dfs 能够看到它所支持的文件操做指令。
执行hadoop/bin/hadoop dfs put log文件所在目录 in ，则log文件目录已放入hdfs的/user/user-name/in 目录中

6.如今来执行Grep操做
hadoop/bin/hadoop demo.hadoop.HadoopGrep in out
查看hadoop/logs/里的运行日志，从新执行前。运行hadoop/bin/hadoop dfs rmr out 删除out目录。

7.运行hadoop/bin/stop-all.sh 结束

3.3 集群运行模式
假设已执行完3.2的配置，假设第2台机器名是hadoopserver2
1.建立与hadoopserver一样的执行用户，将hadoop解压到相同的目录。

2.一样的修改haoop-env.sh中的JAVA_HOME 及修改与3.2一样的hadoop-site.xml

3. 将hadoopserver中的/home/username/.ssh/authorized_keys 复制到hadoopserver2,保证hadoopserver能够无需密码登录hadoopserver2
scp /home/username/.ssh/authorized_keys username@hadoopserver2:/home/username/.ssh/authorized_keys 

4.修改hadoop-server的hadoop/conf/slaves文件, 增长集群的节点，将localhost改成
hadoop-server
hadoop-server2

5.在hadoop-server执行hadoop/bin/start-all.sh
将会在hadoop-server启动namenode,datanode,jobtracker,tasktracker
在hadoop-server2启动datanode 和tasktracker

6.如今来执行Grep操做
hadoop/bin/hadoop demo.hadoop.HadoopGrep in out
从新执行前,运行hadoop/bin/hadoop dfs rmr out 删除out目录

7.运行hadoop/bin/stop-all.sh 结束。