Spark源码阅读笔记之MetadataCleaner

MetadataCleaner运行定时任务周期性的清理元数据(metadata),有6种类型的元数据:MAP_OUTPUT_TRACKER,executor跟踪各个map任务输出的存储位置的数据,根据spark.cleaner.ttl.MAP_OUTPUT_TRACKER设置清理时间,默认值为-1,表示不清理;SPARK_CONTEXT,SparkContext中记录缓存到内存中的RDD的数据结构
相关文章
相关标签/搜索