阿里云数据库产品HybridDB简介——OLAP数据库，支持行列混合存储，基于数据库Greenplum的开源版本，而且吸取PostgreSQL精髓

为何会有HybridDB的诞生？它经历了怎样的研发历程？它的应用场景和状况是怎样的？带着这些问题，InfoQ对阿里云的数据库专家兼Postgres中国社区/中国用户会主席萧少聪先生进行了采访，如下文字整理自采访文稿。

业界早期使用数据时，尤为是OLTP场景下，一般选择非分布式的关系型数据库，如MySQL、SQLServer、Oracle、PostgreSQL便可知足大部份的需求。

OLAP中主流数据库遭遇瓶颈

从技术角度而言，OLAP场景，不只涉及的数据量大并且要求分析的结果实时返回，对应的SQL查询十分复杂。如何作到技术性能和业务功能权衡，对于数据库而言是一个重大考验。

已有的两个主流开源数据库，MySQL和PostgreSQL都是针对OLTP环境的，在OLAP在线分析需求下它们的性能明显不足。特别是MySQL在大规模分析操做时多表Join的性能是当前互联网用户的一大痛点。

在OLAP发展的早期，其操做并无专门的数据库支撑，直接就与OLTP业务放在同一个数据库中完成。但随着业务量的增长，OLAP每次要分析的数据量愈来愈大，这样的分析操做执行时就会致使数据库的业务交易降低。所以业界开始将OLTP、OLAP拆分红两套不一样的数据库进行处理，OLTP数据库中的数据经过ETL软件持续或按期抽取到OLAP数据库，让业务交易与报表分析进行分离。

而新的问题很快又到来了，联互网爆发后数据量也激增，OLTP的业务库能够保存比较少的数据量如3个月到半年，但OLAP的数据量将可能要保存几年甚至更多。单台服务服务的性能上限已经没法知足OLAP分析数据持续增长所带来的压力，所以催生出如阿里HybridDB这样的大规模并行处理（Massive Parallel Processing，MPP）分布式OLAP数据库。

新的分布式OLAP数据库

在提供HybridDB方案以前，咱们会给用户提供如分库分表等处理方案，但这样的方案对于SQL查询内容不肯定的OLAP业务并不友好。当用户须要进行多个数据表的组合操做时，因为数据须要跨服务器进行大规模的聚合，性能十分低下。这个问题在HybridDB中也一样会出现，所幸的是，Greenplum Database开源项目中借助平行的数据扩展技术及interconnect的专用协议，经过自定义的网络协议有效地解决了网络瓶颈的问题。这也是咱们选择基于Greenplum Database开源项目的缘由之一。

简单来讲，MPP是一种平衡的性能扩张模型。以HybridDB的模型为列，每一个节点可存放的数据量及计算能力为1Core / 8GB Mem / 80GB SSD（即将开放500GB HDD版本），若是用户80GB之内的数据在这样的计算单元中，能够在毫秒内查询出结果，那将数据计算能力及容量平衡扩展到上百TB甚至PB时，用户查询“等比”数据量时依然能够达到毫秒级别。

MPP分布式OLAP数据库系统架构已经发展了有10多年之久，十分红熟，当前使用这类系统的企业都是中大型公司。OLAP是一个很大的市场，有别于如同EMR(Hadoop)的大数据分析市场，它要求海量数据的SQL查询在几分钟、几秒，甚至毫秒级返回结果，所以对于服务器、网络及数据库软件自己的架构都提出了很高的要求。

技术攻坚之路

2015年10月Greenplum Database由Pivotal开源后，阿里云PostgreSQL内核团队便开始进行深度的调研，于2016年开始进行产品的研发工做，到今年7月份咱们对用户开放了公测邀请并准备正式商业化的工做。

揭秘HybridDB方案

HybridDB基于开源Greenplum Database(内核实际上就是PostgreSQL)项目的MPP分布式数据仓库，与PostgreSQL不一样，HybridDB能够实现横向扩展，提供用户须要的百GB到百TB的高性能分析能力。

HybridDB最大的三个特点：

1. 基于成熟的GPDB及PostgreSQL生态，软开发合做伙伴进行一次软件开发，便可在云上云下一样使用，免去迁移的烦恼，更容易实现混合云中的数据分析支持。

2. 支持多种混合数据类型（多达23种）的SQL统一查询，包括：

   传统数据类型：字符、数字、浮点、日期等；

   非结构化数据：JSON、XML；

   特殊功能数据类型：GIS地理信息数据、IPv4/v6网络数据、HyperLogLog预估分析数据。

3. 支持混合的数据存储，包括：行存、列存、SSD/HDD本地存储、OSS云存储，将来更将支持“存储计算分离”，用户能够更为灵活在进行资源的购买及分配。

那么，HybridDB在OLAP读取中都作了哪些优化？

优化方面从引擎底层咱们针对阿里云的硬件及网络特色，进行的源码级别的深度优化，特别是在网络调度上进行了针对性的处理，提升跨网络数据节点的吞吐能力。同时在用户业务层中对特殊数据类型进行扩展，若是物联网中的JSON数据类型是Greenplum Database所不支持的，HybridDB经过直接支持这一数据类型，避免用户自行进行非结果化的解析，同时提供基于函数的JSON属性级索引，提升数据库处理JSON的检索性能。

数据存储

一、本地存储

HybridDB的本地存储分为行储存和列存储两种方式。行存储和列存储各有长处。行存适合于近线数据的分析，特别是要求查询结果返回表中某几跳符合条件记录的全部字段的状况。列存适合用于数据的统计分析。

那么二者的适用状况是怎样的呢？举例说明：在行存的状况下，若是一个用于存放用户的表中有20个字段，但咱们只要统计用户年龄的平均值，这时数据库要对用户表进行全表扫描，遍历全部行的全部数据；但若是使用列存，数据库只要定位到这一列，而后只扫描这一列的数据就能够获得全部的结果，性能上相比列存理论上就会直接快20倍，加上HybridDB将数据分布式存储到多个计算节点，性能将再次提升几倍，达到100倍性能提高是十分常见。

HybridDB是混合二者搭配使用的。用户能够配搭进行使用，定义不一样的表使用不一样的存储方式，让用户适应不一样的业务场景，并进行数据生态周期的管理。如6个月内的数据可能要常常获取全行数据，所以使用行存储，6个月后的数据经过列存储进行保存提升分析汇总操做的查询性能。

二、外部存储

高性能的数据分析是在本地存储完成的。OSS做为外部存储，HybridDB能够将OSS中的CSV格式化文本做为外部表进行数据查询，同时还能够对这些外部表进行写入操做。写入到OSS的数据能够提供给RDS for PostgreSQL或EMR等云数据库服务进行读取及处理，所以也同时实现了数据的无缝打通。

同时咱们也将支持“存储计算分析”的模型，在这样模型上咱们平时甚至能够只经过OSS进行数据的存储，当须要进行计算时再开启足够的计算节点进行数据分析处理，计算处理结束后关闭计算节点资源以节省使用成本。

。。。

 

转自：http://www.infoq.com/cn/news/2016/12/MySQL-PostgreSQL-Greenplum