PairFaltMapFunction 相似java8的flatmap方法,会返回一个value为集合的map.java
在这里须要注意的是实现PairFaltMapFunction 服务器
Java版本 spark2.0如下ide
JavaPairRDD<String, Integer> wordPairRDD = lines.flatMapToPair(new PairFlatMapFunction<String, String, Integer>() {
@Override
public Iterable<Tuple2<String, Integer>> call(String s) throws Exception {
//TODO
return List;
}
});spa
java版本 spark2.0以上
主要是iterator和iteratable的一些区别.net
JavaPairRDD<String, Integer> wordPairRDD = lines.flatMapToPair(new PairFlatMapFunction<String, String, Integer>() {
@Override
public Iterator<Tuple2<String, Integer>> call(String s) throws Exception {
return List.iterator();
}
});
get
因此java引入的Spark包版本必定要跟服务器上运行的Spark版本相符,否则就会出现 AbstractMethodErrorit