干货：数据库分库分表基础和实践

数据库架构的演变

在业务数据量比较少的时代，咱们使用单机数据库就能知足业务使用，随着业务请求量愈来愈多，数据库中的数据量快速增长，这时单机数据库已经不能知足业务的性能要求，数据库主从复制架构随之应运而生。

 

主从复制是将数据库写操做和读操做进行分离，使用多个只读实例（slaver replication）负责处理读请求，主实例（master）负责处理写请求，只读实例经过复制主实例的数据来保持与主实例的数据一致性。因为只读实例能够水平扩展，因此更多的读请求不成问题，随着云计算、大数据时代的到来，事情并无完美的得以解决，当写请求愈来愈多，主实例的写请求变成主要的性能瓶颈。

 

如何解决上述问题？若是仅仅经过增长一个主实例来分担写请求，写操做如何在两个主实例之间同步来保证数据一致性，如何避免双写，问题会变的更加复杂。这时就须要用到分库分表（sharding），对写操做进行切分来解决，如图1所示：

图1：典型的读写分离和分库分表

 

华为云中间件产品DDM（Distributed Database Middleware）做为RDS的前置分布式数据库访问服务，完全解决了数据库的扩展性问题，对应用透明地实现海量数据的高并发访问，实现了读写分离和分库分表。

 

数据分片的实现方案

数据分片的实现方案可分为应用层分片和中间件分片，这两种实现方案的特色如图2所示：

图2：应用层分片和中间件分片

 

DDM做为一款优秀的分布式数据库中间件产品，实现了读写分离和数据分片功能，使用DDM来分库分表，应用0改动，对应用彻底透明。

 

分库分表的切分方式

数据的切分（Sharding）根据其切分规则的类型，能够分为两种切分模式。一种是按照不一样的表（或者Schema）来切分到不一样的数据库（主机）之上，这种切分方式能够称之为数据的垂直（纵向）切分；另一种则是根据表中的数据的逻辑关系，将同一个表中的数据按照某种条件拆分到多台数据库（主机）上面，这种切分称之为数据的水平（横向）切分。

 

垂直切分最大特色就是规则简单，实施也更为方便，尤为适合各业务之间的耦合度很是低，相互影响很小，业务逻辑很是清晰的系统。在这种系统中，能够很容易作到将不一样业务模块所使用的表分拆到不一样的数据库中。根据不一样的表来进行拆分，对应用程序的影响也更小，拆分规则也会比较简单清晰。

 

水平切分于垂直切分相比，相对来讲稍微复杂一些。由于要将同一个表中的不一样数据拆分到不一样的数据库中，对于应用程序来讲，拆分规则自己比根据表名来拆分更为复杂，后期的数据维护也会更为复杂一些。

 

具体而言，若是单个库太大，这时咱们要看是由于表多而致使数据多，仍是由于单张表里面的数据多。若是是由于表多而数据多，使用垂直切分，根据业务切分红不一样的库。若是是由于单张表的数据量太大，这时要用水平切分，即把表的数据按某种规则切分红多张表，甚至多个库上的多张表。分库分表的顺序应该是先垂直分，后水平分。由于垂直分更简单，更符合咱们处理现实世界问题的方式。

 

水平切分

相对于垂直拆分，水平拆分不是将表作分类，而是按照某个字段的某种规则来分散到多个库之中，每一个表中包含一部分数据。简单来讲，咱们能够将数据的水平切分理解为是按照数据行的切分，就是将表中的某些行切分到一个数据库，而另外的某些行又切分到其余的数据库中，如图3：

图3：水平切分

 

水平切分的优势

一、拆分规则抽象好，join操做基本能够数据库作。

二、不存在单库大数据，高并发的性能瓶颈。

三、应用端改造较少。

四、  提升了系统的稳定性跟负载能力。

 

水平切分的缺点

一、拆分规则难以抽象。

二、分片事务一致性难以解决。

三、数据屡次扩展难度跟维护量极大。

四、跨库join性能较差。

 

水平切分的典型分片规则

一、HASH取模

例如：取用户id，而后hash取模，分配到不一样的数据库上。

二、RANGE

例如：从0到10000一个表，10001到20000一个表。

三、时间

按照时间切分，例如：将6个月前，甚至一年前的数据切出去放到另外的一张表，由于随着时间流逝，这些表的数据被查询的几率变小，因此不必和”热数据“放在一块儿，这个也是“冷热数据分离”。

切分原则通常是根据业务找到适合的切分规则分散到不一样的库，如图4，根据用户ID取模做为切分规则。

图4：根据userid取模进行切分

 

垂直切分

一个数据库由不少表的构成，每一个表对应着不一样的业务，垂直切分是指按照业务将表进行分类，分布到不一样的数据库上面，这样也就将数据或者说压力分担到不一样的库上面，如图5：

图5：垂直切分

 

垂直切分的优势

一、数据维护简单。

二、拆分后业务清晰，拆分规则明确。

三、系统之间整合或扩展容易。

 

垂直切分的缺点

一、事务处理复杂。

二、部分业务表没法join，只能经过接口方式解决，提升了系统复杂度。

三、受每种业务不一样的限制存在单库性能瓶颈，不易数据扩展跟性能提升。

因为垂直切分是按照业务的分类将表分散到不一样的库，因此有些业务表会过于庞大，存在单库读写与存储瓶颈，因此就须要水平拆分来作解决。

 

切分原则

因为数据切分后数据Join的难度，在此也分享一下数据切分的经验：

第一原则：能不切分尽可能不要切分。

第二原则：若是要切分必定要选择合适的切分规则，提早规划好。

第三原则：数据切分尽可能经过数据冗余或表分组（Table Group）来下降跨库Join的可能。

第四原则：因为数据库中间件对数据Join实现的优劣难以把握，并且实现高性能难度极大，业务读取尽可能少使用多表Join。

 

分库分表后的问题和应对策略

分库分表主要用于应对当前互联网常见的两个场景：海量数据和高并发。然而，分库分表是一把双刃剑，虽然很好的应对海量数据和高并发对数据库的冲击和压力，但也提升了系统的复杂度和维护成本，带来一些问题。

一、事务支持

在分库分表后，就成为分布式事务了，如何保证数据的一致性成为一个必须面对的问题。通常状况下，使存储数据尽量达到用户一致，保证系统通过一段较短的时间的自我恢复和修正，数据最终达到一致。

二、分页与排序问题

通常状况下，列表分页时须要按照指定字段进行排序。在单库单表的状况下，分页和排序也是很是容易的。可是，随着分库与分表的演变，也会遇到跨库排序和跨表排序问题。为了最终结果的准确性，须要在不一样的分表中将数据进行排序并返回，并将不一样分表返回的结果集进行汇总和再次排序，最后再返回给用户。

三、表关联问题

在单库单表的状况下，联合查询是很是容易的。可是，随着分库与分表的演变，联合查询就遇到跨库关联的问题。粗略的解决方法：ER分片：子表的记录与所关联的父表记录存放在同一个数据分片上。全局表：基础数据，全部库都拷贝一份。字段冗余：这样有些字段就不用join去查询了。ShareJoin：是一个简单的跨分片join，目前支持2个表的join,原理就是解析SQL语句，拆分红单表的SQL语句执行，而后把各个节点的数据聚集。

四、分布式全局惟一ID

在单库单表的状况下，直接使用数据库自增特性来生成主键ID，这样确实比较简单。在分库分表的环境中，数据分布在不一样的分表上，不能再借助数据库自增加特性，须要使用全局惟一ID。

 

分库分表案例

某税务核心征管系统，全国34个省国/地税，电子税务局15省格局。

技术路径：核心征管 + 纳税服务 业务应用分布式上云改造。

业务挑战

一、数据查询时间3-5秒，响应速度慢严重影响体验

当前业务逻辑大量放在数据库层，一个办税业务的事务边界过大（40条SQL语句），涉及以“申报”、“发票”大表为主的多张表关联事务操做，致使业务查询响应速度慢。

二、亿级数据快速的增加，挑战业务性能瓶颈

省级税务局，办税高峰期承载百万级用户并发量，3000-5000TPS。现网分析获得数据：核心征管库近1000张表，其中“申报”、“发票”业务表数据量大、增加快，是主要瓶颈表；发票综合信息：每省10亿级条记录，每一年千万到亿条记录级别增量；申报信息表：亿级记录数据量。

 

解决方案

一、垂直分库、微服务分解数据库压力，下降单业务sql数

基于微服务将大事务拆解为异步小事务，业务逻辑从数据库层面剥离。拆分主库数据，将大表垂直拆分到多个数据库中，一个业务40条SQL缩减到20条SQL，达到分解数据库压力的目的。

二、数据分片支撑海量数据增加，线性提高业务处理速度

单表亿级记录以纳税人做为拆分键，拆分到RDS-MySQL 的128个分片上。实现支撑海量数据的存储。拆分后数据库设计简洁、简单，数据库的表之间不设外键，不写触发器，不写存储过程，实现数据库记录的水平扩展。

三、读写分离提高查询性能

DDM自动实现读写分离，透明地完成写操做和读操做的分发，应用程序无需作特殊的改动和处理逻辑。写操做分发到RDS主实例，读操做自动分发到RDS的多个读实例上，这样写操做不会影响读操做的并发，读并发业务增加时只须要按需增长只读实例便可。

 

企业受益

一、使用了DDM以后，轻松突破原来的性能瓶颈，一次业务操做，原来须要3到5秒，如今只须要1秒。

二、读写操做经过DDM的自动读写分离，在不改动业务状况下，轻松提高了总体的读写并发能力。