在MySQL和PostgreSQL以外，为何阿里要研发HybridDB数据库？

http://www.infoq.com/cn/news/2016/12/MySQL-PostgreSQL-Greenplum

编者按

在大数据火遍IT界以前，你们对数据信息的挖掘一般聚焦在BI（Business Intelligence）之上。BI具备着明确的分析需求，清晰地知道须要处理哪些信息，而且如何最终得到多维度的SQL类型数据，这种多维度的分析对应的是OLAP处理技术。在实际商业分析应用中，公司复杂信息模型、多样化的分析需求会给数据库带来极大的技术挑战。

对于阿里而言，实现OLAP、进行在线大规模并行处理，是一个没法规避的技术问题。为此，阿里云研发了HybridDB方案，它基于数据库Greenplum的开源版本，而且吸取PostgreSQL精髓。那么为何会有HybridDB的诞生？它经历了怎样的研发历程？它的应用场景和状况是怎样的？带着这些问题，InfoQ对阿里云的数据库专家兼Postgres中国社区/中国用户会主席萧少聪先生进行了采访，如下文字整理自采访文稿。

先来说讲OLTP和OLAP

数据库领域中你们常常会看到两个词：OLTP及OLAP。

举例说明，好比进行一次交易，资金从A账户转账到B账户，这整个过程就是一次交易事务。若是过程当中有任何系统错误，交易会回滚A账户中的金额都回恢到操做前的状态，这就是On-Line Transaction Processing联机事务处理过程(OLTP)的操做。在OLTP场景中用户并发操做量会很大，要求系统实时进行数据操做的响应，在查询时每每也是只会检索一条或几条明确的目标数据，以实现用户的业务交互。

OLAP意思是On-Line Analytical Processing联机分析处理，顾名思义就是主要针对于数据的分析汇总操做。如咱们的业务系统中天天都须要出销售日报，这个操做须要对当天全部数据进行汇总，并须要进行计算，以获得全天收入、产品销售排名、分时段的销售量，甚至与过去30天及去年当天进行对比，这样的操做都属于OLAP。

业界早期使用数据时，尤为是OLTP场景下，一般选择非分布式的关系型数据库，如MySQL、SQLServer、Oracle、PostgreSQL便可知足大部份的需求。

OLAP中主流数据库遭遇瓶颈

从技术角度而言，OLAP场景，不只涉及的数据量大并且要求分析的结果实时返回，对应的SQL查询十分复杂。如何作到技术性能和业务功能权衡，对于数据库而言是一个重大考验。

已有的两个主流开源数据库，MySQL和PostgreSQL都是针对OLTP环境的，在OLAP在线分析需求下它们的性能明显不足。特别是MySQL在大规模分析操做时多表Join的性能是当前互联网用户的一大痛点。

在OLAP发展的早期，其操做并无专门的数据库支撑，直接就与OLTP业务放在同一个数据库中完成。但随着业务量的增长，OLAP每次要分析的数据量愈来愈大，这样的分析操做执行时就会致使数据库的业务交易降低。所以业界开始将OLTP、OLAP拆分红两套不一样的数据库进行处理，OLTP数据库中的数据经过ETL软件持续或按期抽取到OLAP数据库，让业务交易与报表分析进行分离。

而新的问题很快又到来了，联互网爆发后数据量也激增，OLTP的业务库能够保存比较少的数据量如3个月到半年，但OLAP的数据量将可能要保存几年甚至更多。单台服务服务的性能上限已经没法知足OLAP分析数据持续增长所带来的压力，所以催生出如阿里HybridDB这样的大规模并行处理（Massive Parallel Processing，MPP）分布式OLAP数据库。

新的分布式OLAP数据库

在提供HybridDB方案以前，咱们会给用户提供如分库分表等处理方案，但这样的方案对于SQL查询内容不肯定的OLAP业务并不友好。当用户须要进行多个数据表的组合操做时，因为数据须要跨服务器进行大规模的聚合，性能十分低下。这个问题在HybridDB中也一样会出现，所幸的是，Greenplum Database开源项目中借助平行的数据扩展技术及interconnect的专用协议，经过自定义的网络协议有效地解决了网络瓶颈的问题。这也是咱们选择基于Greenplum Database开源项目的缘由之一。

简单来讲，MPP是一种平衡的性能扩张模型。以HybridDB的模型为列，每一个节点可存放的数据量及计算能力为1Core / 8GB Mem / 80GB SSD（即将开放500GB HDD版本），若是用户80GB之内的数据在这样的计算单元中，能够在毫秒内查询出结果，那将数据计算能力及容量平衡扩展到上百TB甚至PB时，用户查询“等比”数据量时依然能够达到毫秒级别。

MPP分布式OLAP数据库系统架构已经发展了有10多年之久，十分红熟，当前使用这类系统的企业都是中大型公司。OLAP是一个很大的市场，有别于如同EMR(Hadoop)的大数据分析市场，它要求海量数据的SQL查询在几分钟、几秒，甚至毫秒级返回结果，所以对于服务器、网络及数据库软件自己的架构都提出了很高的要求。

技术攻坚之路

阿里一直都在使用并研究OLAP，实际上在2009年左右开始使用Greenplum，若是没有记错，那个时候的规模应该是国内甚至全亚洲最大的GPDB集群。

研发之路并非一路顺风，甚至一度突围失败。一方面，彼时Greenplum还处在萌芽期，只发布了4年。另外一方面，Greenplum没有开源，既没法掌握更为深刻的资料，又不得不考虑价格因素。你能够想象阿里所在行业对于数据可靠性的要求以及规模量，使得对于数据库的选择会有多个维度的考虑。

不过早期的经历仍是给咱们留下了宝贵的经验。当年的不少运维经验咱们都进行了收集，并在现有平台中变成了咱们的监控项，经过自动化运维的手段进行资源调配及故障预警，这对咱们平台的稳定性提供了很重要的经验。同时针对之前遇到的不少让咱们技术同窗不理解的原理性问题，经过Greenplum Database的源代码咱们进行了重点分析，并找到了问题的答案。有不少以前遇到过的问题，经过源码能够明确发现已经由厂商进行了修复，而有一些问题可能与咱们的业务场景有关，结合源码咱们也进行了内核的优化。

2015年10月Greenplum Database由Pivotal开源后，阿里云PostgreSQL内核团队便开始进行深度的调研，于2016年开始进行产品的研发工做，到今年7月份咱们对用户开放了公测邀请并准备正式商业化的工做。

为何选择基于Greenplum？主要有三点考虑：

1. 生态：基于10年商业数据库创建的生态是宝贵的财富，让用户的使用变得更为便捷。
2. 成熟：通过咱们深度的压力测试（过程仍是十分暴力的，在此不表^_^），咱们验证了Greenplum自己的稳定性，同时GPDB提供丰富的SQL支持、编程接口易于进行扩展，这些都体现了她的成熟度。
3. 开源：只有掌握源码才能够协助用户最快地解决问题，同时Greenplum基于PostgreSQL，基于这一点，用户可使用统一的PostgreSQL的JDBC或.NET驱动开发OLTP及OLAP的软件，减小不一样数据库协议之间的学习成本及研发复杂度。

揭秘HybridDB方案

HybridDB基于开源Greenplum Database(内核实际上就是PostgreSQL)项目的MPP分布式数据仓库，与PostgreSQL不一样，HybridDB能够实现横向扩展，提供用户须要的百GB到百TB的高性能分析能力。

接下来结合项目说明实际应用。

咱们有一个广告行业的用户，他们给用户提供线上的数据分析业务，同时也会将他们的产品进行线下私有环境的软件售卖。天天他们都须要进行过亿数据的汇总分析，增量数据也都在千万级别，当前经过使用HybridDB进行他们线上业务的支持。一些单表的查询在毫秒级别就能够输出结果，而不少须要多表Join的复杂查询也在数秒内就会有结果返回。同时这个用户给 HybridDB 提出 HyperLogLog 的功能需求后，咱们在2周内就给予了这个功能的支持，使得用户在进行数据预估分析的操做性能提升几十倍。与此同时用户线上使用 HybridDB 开发的产品，也能够十分便捷地运行在线下的开源或商业版本的 Greenplum 上，避免了在不一样数据库平台上须要从新开发应用系统的工做量。

在阿里云官网上，HybridDB 归结在 “数据库” 和 “分析” 两个类目。阿里内部已经有业务开始使用 HybridDB ，主要是看重它对SQL的丰富支持，同时能够支持GIS数据类型及基于事务一致性的存储过程。

HybridDB最大的三个特点：

1. 基于成熟的GPDB及PostgreSQL生态，软开发合做伙伴进行一次软件开发，便可在云上云下一样使用，免去迁移的烦恼，更容易实现混合云中的数据分析支持。

2. 支持多种混合数据类型（多达23种）的SQL统一查询，包括：

   传统数据类型：字符、数字、浮点、日期等；

   非结构化数据：JSON、XML；

   特殊功能数据类型：GIS地理信息数据、IPv4/v6网络数据、HyperLogLog预估分析数据。

3. 支持混合的数据存储，包括：行存、列存、SSD/HDD本地存储、OSS云存储，将来更将支持“存储计算分离”，用户能够更为灵活在进行资源的购买及分配。

那么，HybridDB在OLAP读取中都作了哪些优化？

优化方面从引擎底层咱们针对阿里云的硬件及网络特色，进行的源码级别的深度优化，特别是在网络调度上进行了针对性的处理，提升跨网络数据节点的吞吐能力。同时在用户业务层中对特殊数据类型进行扩展，若是物联网中的JSON数据类型是Greenplum Database所不支持的，HybridDB经过直接支持这一数据类型，避免用户自行进行非结果化的解析，同时提供基于函数的JSON属性级索引，提升数据库处理JSON的检索性能。

除此以外，HybridDB还有哪些新意？

HybridDB是云上的数据仓库，用户若是在本身的私有环境中进行相似架构的部署，将须要富有经验的架构师进行完整的规划，同时还要聘用高水平的技术团队进行持续管理。由于若是系统出现故障没法提供服务，将极可能影响到企业的决策分析，对于以数据分析的基础的企业甚至会致使业务中断，经过使用云数据库HybridDB将免除这些烦恼。

将MySQL和PostgreSQL数据导入到HybridDB的这个流程实际上并无很深的数据难度，由于MySQL和PostgreSQL都支持基于的逻辑日志，咱们只须要进行解析并入库就能够了。在数据导入方面，咱们借助OSS分布式数据存储的能力，实现了多计算节点的并行导入，每一个计算单元（1Core/8GBMem为一个计算单元）能够达到接近20MB/s的数据导入，若是用户构建出一个64节点的 HybridDB 集群将能够达到1GB/s的数据导入能力。在咱们的实际用户使用中，已经有用户经过这个方法在4分钟内导入了4亿条数据。

另外一方面HybridDB还支持将数据存放到OSS云存储，实现廉价的数据存储方案，为用户节省更多成本。

数据存储

一、本地存储

HybridDB的本地存储分为行储存和列存储两种方式。行存储和列存储各有长处。行存适合于近线数据的分析，特别是要求查询结果返回表中某几跳符合条件记录的全部字段的状况。列存适合用于数据的统计分析。

那么二者的适用状况是怎样的呢？举例说明：在行存的状况下，若是一个用于存放用户的表中有20个字段，但咱们只要统计用户年龄的平均值，这时数据库要对用户表进行全表扫描，遍历全部行的全部数据；但若是使用列存，数据库只要定位到这一列，而后只扫描这一列的数据就能够获得全部的结果，性能上相比列存理论上就会直接快20倍，加上HybridDB将数据分布式存储到多个计算节点，性能将再次提升几倍，达到100倍性能提高是十分常见。

HybridDB是混合二者搭配使用的。用户能够配搭进行使用，定义不一样的表使用不一样的存储方式，让用户适应不一样的业务场景，并进行数据生态周期的管理。如6个月内的数据可能要常常获取全行数据，所以使用行存储，6个月后的数据经过列存储进行保存提升分析汇总操做的查询性能。

二、外部存储

高性能的数据分析是在本地存储完成的。OSS做为外部存储，HybridDB能够将OSS中的CSV格式化文本做为外部表进行数据查询，同时还能够对这些外部表进行写入操做。写入到OSS的数据能够提供给RDS for PostgreSQL或EMR等云数据库服务进行读取及处理，所以也同时实现了数据的无缝打通。

同时咱们也将支持“存储计算分析”的模型，在这样模型上咱们平时甚至能够只经过OSS进行数据的存储，当须要进行计算时再开启足够的计算节点进行数据分析处理，计算处理结束后关闭计算节点资源以节省使用成本。

HybridDB的幕后故事

一、扎根社区

当前咱们基于开源版本的Greenplum Database，同时咱们也会进行一些功能的添加及性能稳定性上的优化工做，咱们也会逐步进行对开源社区的更多的贡献，如当前咱们就已经开源了支持Greenplum、PostgreSQL及HybridDB的数据同步工具dbsync(https://github.com/aliyun/rds_dbsync)，有兴趣的读者能够下载测试及使用。

在Greenplum Database的开源社区咱们会有不少的合做，甚至咱们已经在向开源社区提交新功能及patch。同时Greenplum也是PostgreSQL开源数据库生态重要的力量，我我的同时做为PostgreSQL中国社区及用户会的主席也固然会进行更多线上线下活动的支持。

二、商业合做

Greenplum背后的公司是Pivotal。因此同时也与Pivotal有更多的商业合做。阿里也会与Pivotal方面进行持续的接触，相信咱们会有机会碰出绚丽的火花。

写在最后

长期以来国外开源社区都认为中国用户仅仅使用开源软件，可是贡献甚少。不过，随着阿里的发展，咱们已经开始反哺开源社区并共同创建生态。几个月前，AliSQL的开源说明了阿里对开源业界的支持。HybridDB一样如此，虽然咱们的版本才刚刚发布，但在版本研发的过程当中已经开始向社区共享代码。

阿里云当前支持云数据库HybridDB，暂时没有计划去支持私有环境的Greenplum数据库。不过咱们团队的大神德哥，会继续贡献他在使用Greenplum的经验心得。但愿对你们有所帮助。

用户在线下可使用Greenplum的开源数据库版本或商业版本，据我所了解也已经有不少数据库服务商开始提供Greenplum的技术支持，使用这个数据库的用户不须要再担忧将来上云迁移的问题。同时，咱们也会在将来结合PostgreSQL及HybridDB提供一系列的使用教学视频，让用户更快速地掌握产品的正确使用场景及方法。