Spark Streaming checkpoint整体架构原理

StreamingContext会初始化一些内部的关键组件:DstreamGraph/ReceiverTraker/JobGenerator/JobScheduler DstreamGraph:表示各个Dstream之间的依赖关系。 JobGenerator:根据DstreamGraph定义的算子和各个Dstream之间的依赖关系去生成一个job,job的初始RDD,就是刚创建的batch对应的R
相关文章
相关标签/搜索