Hadoop的辉煌还能延续多久？

Hadoop技术已经无处不在。不论是好是坏，Hadoop已经成为大数据的代名词。短短几年间，Hadoop从一种边缘技术成为事实上的标准。看来，不只如今Hadoop是企业大数据的标准，并且在将来，它的地位彷佛一时难以动摇。

谷歌文件系统与MapReduce

咱们先来探讨一下Hadoop的灵魂——MapReduce。面对数据的爆炸性增加，谷歌的工程师Jeff Dean和Sanjay Ghemawat架构并发布了两个开创性的系统：谷歌文件系统（GFS）和谷歌MapReduce（GMR）。前者是一个出色而实用的解决方案-使用常规的硬件扩展并管理数据，后者一样辉煌，造就了一个适用于大规模并行处理的计算框架。

谷歌MapReduce（GMR）为普通开发者/用户进行大数据处理提供了简易的方式，并使之快速、具有容错性。谷歌文件系统（GFS）和谷歌MapReduce（GMR）也为谷歌搜索引擎对网页进行抓取、分析提供了核心动力。

再回头看看开源世界中的Hadoop，Apache Hadoop的分布式文件系统（HDFS）和Hadoop MapReduce彻底是谷歌文件系统（GFS）和谷歌MapReduce（GMR）的开源实现。Hadoop项目已经发展成为一个生态系统，并触及了大数据领域的方方面面。但从根本上，它的核心是MapReduce。

Hadoop是否能够赶超谷歌？

一个有趣的现象是，MapReduce在谷歌已再也不显赫。当企业瞩目MapReduce的时候，谷歌好像早已进入到了下一个时代。事实上，咱们谈论的这些技术早就不是新技术了，MapReduce也不例外。

我但愿在后Hadoop时代下面这些技术可以更具竞争性。尽管许多Apache社区的项目和商业化Hadoop项目都很是活跃，并以来自HBase、Hive和下一代MapReduce（YARN）的技术不断完善着Hadoop体系，我依然认为，Hadoop核心（HDFS和Zookeeper）须要脱离MapReduce并以全新的架构加强本身的竞争力，真正与谷歌技术一较高下。

过滤不断增加的索引，分析不断变化的数据集。Hadoop的伟大之处在于，它一旦开始运行，就会飞速地分析你的数据。尽管如此，在每次分析数据以前，即添加、更改或删除数据以后，咱们都必须将整个数据集进行流式处理。这意味着，随着数据集的膨胀，分析时间也会随之增长，且不可预期。

那么，谷歌又是怎么作到搜索结果愈来愈实时呈现呢？一个名为Percolator的增量处理引擎取代了谷歌MapReduce（GMR）。经过对新建、更改和已删除文档的处理，并使用二级索引进行高效的分类、查询，谷歌可以显著地下降实现其目标的时间。

Percolator的做者写道：“将索引系统转化为一个增量系统……文档平均处理延迟的因子下降到了如今的100。”这句话的意思是，索引Web上新内容的速度比以前MapReduce系统快了100倍。

谷歌Dremel即时数据分析解决方案

谷歌和Hadoop社区曾致力于构建基于MapReduce的易用性即时数据分析工具，如谷歌的并行处理语言Sawzall，Apache Pig和Hive。但对熟知SQL的人们而言，他们忽略了一个基本事实-构建MapReduce的目标就在于管理数据处理工做。它的核心能力在于工做流管理，而不是即时数据分析。

与之造成鲜明对比的是，不少BI或数据分析查询基本上都要求即时、交互和低延迟。这意味着，使用Hadoop不只须要规划流程图，并且须要为许多查询分析裁减没必要要的工做流。即使如此，咱们也要花费数分钟等待工做开始，而后花费数小时等待工做流完成，而且这个过程也很是不利于交互式体验。所以，谷歌研发了Dremel予以应对。Dremel是Google 的“交互式”数据分析系统，能够在几秒钟内处理PB级别的数据，并能轻松应对即时查询。

Google Dremel的设计特色：

Dremel是一个可扩展的大型系统。在一个PB级别的数据集上面，将任务缩短到秒级，无疑须要大量的并发。磁盘的顺序读速度在100MB/S上下，那么在1S内处理1TB数据，意味着至少须要有1万个磁盘的并发读! Google一贯是用廉价机器办大事的好手。可是机器越多，出问题几率越大，如此大的集群规模，须要有足够的容错考虑，保证整个分析的速度不被集群中的个别节点影响。 

Dremel是MapReduce的补充。和MapReduce同样，Dremel也须要GFS这样的文件系统做为存储层。在设计之初，Dremel并不是是MapReduce的替代品，它只是能够执行很是快的分析，在使用的时候，经常用它来处理MapReduce的结果集或者用来创建分析原型。 

Dremel的数据模型是嵌套的。互联网数据经常是非关系型的。Dremel还须要有一个灵活的数据模型，这个数据模型相当重要。Dremel支持一个嵌套的数据模型，相似于JSON。而传统的关系模型，因为不可避免的有大量的JOIN操做，在处理如此大规模的数据的时候，每每是有心无力的。

Dremel中的数据是采用列式存储的。使用列式存储，分析的时候，能够只扫描须要的那部分数据的时候，减小CPU和磁盘的访问量。同时列式存储是压缩友好的，使用压缩，能够综合CPU和磁盘，发挥最大的效能。

Dremel结合了Web搜索和并行DBMS的技术。Dremel借鉴了Web搜索中的“查询树”的概念，将一个相对巨大复杂的查询，分割成较小较简单的查询。大事化小，小事化了，能并发的在大量节点上跑。另外，和并行DBMS相似，Dremel能够提供了一个SQL-like的接口，就像Hive和Pig那样。

谷歌的图数据计算框架Pregel

谷歌MapReduce是专门为抓取、分析世界上最庞大的图形架构-internet而设计的，但针对大规模图算法（如图遍历（BFS）、PageRank，最短路径（SSSP）等）的计算则显得效率低下。所以，谷歌构建了Pregel。

Pregel给人的印象很是深入。Pregel不只能高效执行SSSP或PageRank算法，更使人惊讶的是，公布的数据显示Pregel处理一个有着几十亿节点、上万亿条边的图，只需数分钟便可完成，其执行时间随着图的大小呈线性增加。

Pregel基于BSP模型，就是“计算”-“通讯”-“同步”的模式：

• 输入输出为有向图

• 分红超步

• 以节点为中心计算，超步内每一个节点执行本身的任务，执行节点的顺序不肯定

• 两个超步之间是通讯阶段

在Pregel中，以节点为中心计算。Step 0时每节点都活动着，每一个节点主动“给中止投票”进入不活动状态。若是接收到消息，则激活。没有活动节点和消息时，整个算法结束。容错是经过检查点来作的。在每一个超步开始的时候，对主从节点分别备份。

总结

尽管当前大数据技术的核心依然是Hadoop，但谷歌却已经为咱们展示了许多更先进的大数据技术。谷歌开发这些技术的本意并非要马上抛弃掉MapReduce，但毫无疑问这是将来大数据技术的趋势。尽管已经出现了上述大数据技术的开源实现，但咱们不由要问，Hadoop的辉煌还能延续多久？（张志平/编译）