Storm、Spark和MapReduce 开源分布式计算系统框架比较

比较项 Storm Spark Streaming 分布式计算在许多领域都有普遍需求，目前流行的分布式计算框架主要有 hadoop MapReduce, Spark Streaming, Storm； 这三个框架各有优点，如今都属于 Apache 基金会下的顶级项目，下文将对三个框架的特色与适用场景进行分析，以便开发者能快速选择适合本身的框架进行开发。
Hadoop MapReduce 是三者中出现最先，知名度最大的分布式计算框架，最先由 Google Lab 开发，使用者遍及全球（Hadoop PoweredBy）；主要适用于大批量的集群任务，因为是批量执行，故时效性偏低，原生支持 Java 语言开发 MapReduce ，其它语言须要使用到 Hadoop Streaming 来开发。Spark Streaming 保留了 Hadoop MapReduce 的优势，并且在时效性上有了很大提升，中间结果能够保存在内存中，从而对须要迭代计算和有较高时效性要求的系统提供了很好的支持，多用于能容忍小延时的推荐与计算系统。Storm 一开始就是为实时处理设计，所以在实时分析/性能监测等须要高时效性的领域普遍采用，并且它理论上支持全部语言，只须要少许代码便可完成适配器。
下面的表格是对三者部分特性的比较，描述时间为 2015-5-3，三个项目均处于快速迭代中，文中描述特性会随时产生变化，若是与官方文档产生出入以官方文档为准。