Spark GraphX 编程指南

GraphX编程指南

(根据原文编辑:http://udn.yyuap.com/doc/spark-programming-guide-zh-cn/graphx-programming-guide/index.html)html

GraphX是一个新的(alpha)Spark API,它用于图和并行图(graph-parallel)的计算。GraphX经过引入Resilient Distributed Property Graph:带有 顶点和边属性的有向多重图,来扩展Spark RDD。为了支持图计算,GraphX公开一组基本的功能操做以及Pregel API的一个优化。另外,GraphX包含了一个日益增加的图算法和图builders的 集合,用以简化图分析任务。算法

从社交网络到语言建模,不断增加的规模和图形数据的重要性已经推进了许多新的graph-parallel系统(如Giraph和GraphLab)的发展。 经过限制可表达的计算类型和引入新的技术来划分和分配图,这些系统能够高效地执行复杂的图形算法,比通常的data-parallel系统快不少。编程

data parallel vs graph parallelapi

然而,经过这种限制能够提升性能,可是很难表示典型的图分析途径(构造图、修改它的结构或者表示跨多个图的计算)中不少重要的stages。另外,咱们如何看待数据取决于咱们的目标,而且同一原始数据可能有许多不一样表和图的视图。网络

表和图ide

结论是,图和表之间常常须要可以相互移动。然而,现有的图分析管道必须组成graph-parallel和data- parallel系统`,从而实现大数据的迁移和复制并生成一个复杂的编程模型。性能

图分析路径大数据

GraphX项目的目的就是将graph-parallel和data-parallel统一到一个系统中,这个系统拥有一个惟一的组合API。GraphX容许用户将数据当作一个图和一个集合(RDD),而不须要 而不须要数据移动或者复杂。经过将最新的进展整合进graph-parallel系统,GraphX可以优化图操做的执行。优化

  1. 开始
  2. 属性图
  3. 图操做符
  4. Pregel API
  5. 图构造者
  6. 顶点和边RDDs
  7. 图算法
  8. 例子
相关文章
相关标签/搜索