SparkConf 配置的概念和用法

一:概念 Spark应用程序的配置,用于将各种Spark参数设置为键值对。 大多数情况下,将使用新的SparkConf(),创建一个SparkConf对象,该对象将从您的应用程序中设置的任何spark.的Java系统属性加载值。 在这种情况下,* 直接在SparkConf对象上设置的参数优先于系统属性 **。 二:使用 无论官方还是自定义,spark配置一定是以“spark.*”开头 scala>
相关文章
相关标签/搜索