SPARK命令行读取parquet数据

1,进入spark shellsql

./spark-shellshell

2,执行如下操做读取parquet文件apache

val sqlContext = new org.apache.spark.sql.SQLContext(sc)spa

val parquetFile = sqlContext.parquetFile("/home/neunntest/hdfs/dataSet/2018-1-2/iris20180102_1514855343/*.parquet")spark

3,打印具体内容test

parquetFile.take(150).foreach(println)foreach

相关文章
相关标签/搜索