spark中的SparkContext实例的textFile使用的小技巧

网上不少例子,包括官网的例子,都是用textFile来加载一个文件建立RDD,相似sc.textFile("hdfs://n1:8020/user/hdfs/input")数据结构 textFile的参数是一个path,这个path能够是:spa 1. 一个文件路径,这时候只装载指定的文件input 2. 一个目录路径,这时候只装载指定目录下面的全部文件(不包括子目录下面的文件)技巧 3. 经过通
相关文章
相关标签/搜索