Spark学习入门

 Spark 是一种“One Stack to rule them all”通用的大数据计算框架,指望使用一个技术栈就完美地

解决大数据领域的各类计算任务。

Spark特色：速度快、容易上手开发、超强的通用性、集成Hadoop、极高的活跃度。

 

 

 Spark的速度比MapReduce快：MR计算模型太死板，并且里面最好性能的就是shuffle，shuffle

中间的过程都是基于磁盘来读写的。而Spark是基于内存进行计算的。

Spark缺陷：Spark是基于内存进行计算的，若是数据量太大，没有调优的状况下，会出现OOM。

可是此时MR尽管运行速度慢，可是其能够完成任务。

 Spark替代的是Hive的查询引擎，而不是Hive的所有！！！

 

 

 Spark Streaming严格意义上来讲，是一种准实时的计算框架。而Storm是真正意义上的实时计算框架。

Spark Streaming的吞吐量远远比Storm大。