Spark生态圈的分布式文件系统－Tachyon

Tachyon 是一个高容错的分布式文件系统，容许文件之内存的速度在集群框架中进行可靠的共享，相似Spark和 MapReduce。经过利用lineage信息，积极地使用内存，Tachyon的吞吐量要比HDFS高300多倍。Tachyon都是在内存中处理缓 存文件，而且让不一样的 Jobs/Queries以及框架都能内存的速度来访问缓存文件。

特性：

• 类 Java 的文件 API

• 兼容性：实现 Hadoop 文件系统接口

• 可插入式的底层文件系统

• 内建 Raw 原生表的支持

• 基于 Web 的 UI
  

• 提供命令行接口

Tachyon 架构：

与 HDFS 的比较：

Hadoop足够快吗？美国加州大学伯克利分校的AMPLab基于Hadoop的核心组件开发出一个更快的版本Tachyon。AMPLab从底层重建了Hadoop平台，“没有最快，只有更快”。

AMPLab在大数据领域最知名的产品是Spark， 它是一个内存中并行处理的框架，Spark的创造者声称：使用Shark运行并行处理Job速度要比MapReduce快100倍。又由于Spark是在 内存运行，因此Shark可与Druid或者SAP's HANA系统一较高下。Spark也为ClearStory下一代分析和可视化服务提供处理引擎。若是你喜欢用Hive做为Hadoop的数据仓库，那么 你必定会喜欢Shark，由于它表明了“Hive on Spark”。

AMPLab的最新目标就是Hadoop分布式文件系统（HDFS），不过HDFS在可用性和速度方面一直受人诟病，因此AMPLab建立了Tachyon（ 在High Scalability上很是夺目，引发了Derrick Harris的注意）。

固然，AMPLab并非第一个对HDFS提出质疑的组织，同时也有不少商业版本可供选择，像Quantcast就本身开发了开源文件系统，声称其在运行大规模文件系统时速度更快、更高效。

诚 然，AMPLab所作的工做就是打破现有商业软件的瓶颈限制。若是碰巧破坏了现状，那么就顺其天然吧！不过，对于用户来讲，AMPLab只是为那些寻找合 适工具的人员提供了一种新的选择，AMPLab的合做伙伴和赞助商包括谷歌，Facebook，微软和亚马逊网络服务，它们固然很是乐意看到这些新技术， 若是颇有必要的话。

AMPLab的其余项目包括PIQL，相似于一种基于键/值存储的SQL查询语言；MLBase，基于分布式系统的机器学习系统；Akaros，一个多核和大型SMP系统的操做系统；Sparrow，一个低延迟计算集群调度系统。