spark 源码分析(spark 触发Action 之后操作)

本例以wc 为例子 (akka 为rpc 通讯框架) 1、我们进入savaAsTextFile 这个 action算子 2、上面算子通过多层封装(其中包换数据 转换和创建一些读写流) 最后通过 runjob 方法的入口开始提交任务(其中包含DAG 任务的划分流程等将DAG 切分成多个stage 然后将stage 切分成不同task 任务最后提交任务) 经过一系列的变换操作(通常增加一些提交任务逻辑
相关文章
相关标签/搜索