经过spark-submit提交hadoop配置的方法

经过spark提交的spark开头的配置在程序启动后会添加到SparkConf中,可是hadoop相关的配置非spark开头会被过滤掉,可是只要在这些配置的key前面添加spark.hadoop.前缀,则该key就不会被过滤,会被放置到SparkConf中;最终会存储在Configuration  对象中,存入以前会将  spark.hadoop.前缀截掉(如:hbase的hbase.zookeeper.quorum,则这样传递:spark-submit --conf  spark.hadoop.hbase.zookeeper.quorum),见下方截图代码逻辑oop

在spark应用中若是要是用这些key,只须要添加以下代码便可:spa

Configuration  conf = ss.sparkContext().hadoopConfiguration();3d

String quorum = conf.get("hbase.zookeeper.quorum");对象

相关文章
相关标签/搜索