理解MapReduce计算构架

用Python编写WordCount程序任务app

程序函数

WordCountoop

输入测试

一个包含大量单词的文本文件3d

输出blog

文件中每一个单词及其出现次数(频数),并按照单词字母顺序排序,每一个单词和其频数占一行,单词和频数之间有间隔排序

一、编写map函数,reduce函数table

      (1)首先建立一个文件夹class

    mkdir wc权限

       (2)编写两个mapper函数

    

 

二、将其权限做出相应修改

  

三、本机上测试运行代码

  

四、放到HDFS上运行,下载并上传文件到hdfs上

  

五、用Hadoop Streaming命令提交任务




相关文章
相关标签/搜索