java写Spark程序之PairFaltMapFunction

PairFaltMapFunction 相似java8的flatmap方法,会返回一个value为集合的map.java

在这里须要注意的是实现PairFaltMapFunction 服务器

Java版本 spark2.0如下ide

JavaPairRDD<String, Integer> wordPairRDD = lines.flatMapToPair(new PairFlatMapFunction<String, String, Integer>() {
            @Override
            public Iterable<Tuple2<String, Integer>> call(String s) throws Exception {
                //TODO
                return List;
            }
        });spa

java版本 spark2.0以上 
主要是iterator和iteratable的一些区别.net

        JavaPairRDD<String, Integer> wordPairRDD = lines.flatMapToPair(new PairFlatMapFunction<String, String, Integer>() {
            @Override
            public Iterator<Tuple2<String, Integer>> call(String s) throws Exception {
                return List.iterator();
            }
        });
 get

因此java引入的Spark包版本必定要跟服务器上运行的Spark版本相符,否则就会出现 AbstractMethodErrorit

相关文章
相关标签/搜索