SparkCore之RDD依赖关系_RDD缓存_RDD CheckPoint

一 RDD依赖关系 1 Lineage RDD只支持粗粒度转换,即在大量记录上执行的单个操作。将创建RDD的一系列Lineage(血统)记录下来,以便恢复丢失的分区。RDD的Lineage会记录RDD的元数据信息和转换行为,当该RDD的部分分区数据丢失时,它可以根据这些信息来重新运算和恢复丢失的数据分区。 (1)读取一个HDFS文件并将其中内容映射成一个个元组 scala> val wordAnd
相关文章
相关标签/搜索