Spark学习之路 （一）Spark初识

目录

• 1、官网介绍
  • 一、什么是Spark
• 2、Spark的四大特性
  • 一、高效性
  • 二、易用性
  • 三、通用性
  • 四、兼容性
• 3、Spark的组成
• 4、应用场景

 

正文

回到顶部

1、官网介绍

一、什么是Spark

官网地址：http://spark.apache.org/

Apache Spark™是用于大规模数据处理的统一分析引擎。

从右侧最后一条新闻看，Spark也用于AI人工智能

spark是一个实现快速通用的集群计算平台。它是由加州大学伯克利分校AMP实验室 开发的通用内存并行计算框架，用来构建大型的、低延迟的数据分析应用程序。它扩展了普遍使用的MapReduce计算

模型。高效的支撑更多计算模式，包括交互式查询和流处理。spark的一个主要特色是可以在内存中进行计算，及时依赖磁盘进行复杂的运算，Spark依然比MapReduce更加高效。

二、为何要学Spark

中间结果输出：基于MapReduce的计算引擎一般会将中间结果输出到磁盘上，进行存储和容错。出于任务管道承接的，考虑，当一些查询翻译到MapReduce任务时，每每会产生多个Stage，而这些串联的Stage又依赖于底层文件系统（如HDFS）来存储每个Stage的输出结果。

Spark是MapReduce的替代方案，并且兼容HDFS、Hive，可融入Hadoop的生态系统，以弥补MapReduce的不足。

回到顶部

2、Spark的四大特性

一、高效性

运行速度提升100倍。

Apache Spark使用最早进的DAG调度程序，查询优化程序和物理执行引擎，实现批量和流式数据的高性能。

二、易用性

Spark支持Java、Python和Scala的API，还支持超过80种高级算法，使用户能够快速构建不一样的应用。并且Spark支持交互式的Python和Scala的shell，能够很是方便地在这些shell中使用Spark集群来验证解决问题的方法。

三、通用性

Spark提供了统一的解决方案。Spark能够用于批处理、交互式查询（Spark SQL）、实时流处理（Spark Streaming）、机器学习（Spark MLlib）和图计算（GraphX）。这些不一样类型的处理均可以在同一个应用中无缝使用。Spark统一的解决方案很是具备吸引力，毕竟任何公司都想用统一的平台去处理遇到的问题，减小开发和维护的人力成本和部署平台的物力成本。

四、兼容性

Spark能够很是方便地与其余的开源产品进行融合。好比，Spark可使用Hadoop的YARN和Apache Mesos做为它的资源管理和调度器，器，而且能够处理全部Hadoop支持的数据，包括HDFS、HBase和Cassandra等。这对于已经部署Hadoop集群的用户特别重要，由于不须要作任何数据迁移就可使用Spark的强大处理能力。Spark也能够不依赖于第三方的资源管理和调度器，它实现了Standalone做为其内置的资源管理和调度框架，这样进一步下降了Spark的使用门槛，使得全部人均可以很是容易地部署和使用Spark。此外，Spark还提供了在EC2上部署Standalone的Spark集群的工具。

 

Mesos：Spark能够运行在Mesos里面（Mesos 相似于yarn的一个资源调度框架）

standalone：Spark本身能够给本身分配资源（master，worker）

YARN：Spark能够运行在yarn上面

 Kubernetes：Spark接收 Kubernetes的资源调度

回到顶部

3、Spark的组成

Spark组成(BDAS)：全称伯克利数据分析栈，经过大规模集成算法、机器、人之间展示大数据应用的一个平台。也是处理大数据、云计算、通讯的技术解决方案。

它的主要组件有：

SparkCore：将分布式数据抽象为弹性分布式数据集（RDD），实现了应用任务调度、RPC、序列化和压缩，并为运行在其上的上层组件提供API。

SparkSQL：Spark Sql 是Spark来操做结构化数据的程序包，可让我使用SQL语句的方式来查询数据，Spark支持 多种数据源，包含Hive表，parquest以及JSON等内容。

SparkStreaming： 是Spark提供的实时数据进行流式计算的组件。

MLlib：提供经常使用机器学习算法的实现库。

GraphX：提供一个分布式图计算框架，能高效进行图计算。

BlinkDB：用于在海量数据上进行交互式SQL的近似查询引擎。

Tachyon：之内存为中心高容错的的分布式文件系统。

回到顶部

4、应用场景

Yahoo将Spark用在Audience Expansion中的应用，进行点击预测和即席查询等

淘宝技术团队使用了Spark来解决屡次迭代的机器学习算法、高计算复杂度的算法等。应用于内容推荐、社区发现等 腾讯大数据精准推荐借助Spark快速迭代的优点，实现了在“数据实时采集、算法实时训练、系统实时预测”的全流程实时并行高维算法，最终成功应用于广点通pCTR投放系统上。 优酷土豆将Spark应用于视频推荐(图计算)、广告业务，主要实现机器学习、图计算等迭代计算。