Sharding-Proxy的基本功能使用

时间 2020-11-21 标签 java mysql 算法 sql shell 数据库 apache vim 数组服务器

Sharding-Proxy是一个分布式数据库中间件，定位为透明化的数据库代理端。做为开发人员能够彻底把它当成数据库，而它具体的分片规则在Sharding-Proxy中配置。它的总体架构图以下：java

在架构图中，中间的蓝色方块就是咱们的中间件Sharding-Proxy，下面链接的是数据库，咱们能够配置每个数据库的分片，还能够配置数据库的读写分离，影子库等等。上方则是咱们的业务代码，他们统一链接Sharding-Proxy，就像直接链接数据库同样，而具体的数据插入哪个数据库，则由Sharding-Proxy中的分片规则决定。再看看右侧，右侧是一些数据库的工具，好比：MySQL CLI，这是MySQL的命令行；Workbench是MySQL本身出的一个管理工具；还能够链接其余的工具，好比：Navicat，SQLYog等。最后再来看看左侧，是一个注册中心，目前支持最好的是Zookeeper，在注册中心中，咱们能够统一配置分片规则，读写数据源等，并且是实时生效的，在管理多个Sharding-Proxy时，很是的方便。而官方也给咱们提供了界面化的工具——ShardingSphere-UI，使用起来很是的方便。mysql

Sharding-Proxy的安装

咱们能够在Sharding-Proxy官网上找的下载目录，再找到Sharding-Proxy的下载连接，下载最新版本的二进制包。而后把二进制包（tar.gz）上传到服务器的目录中，这个目录能够自定义，/opt或者/usr/local均可以，而后解压，命令以下：算法

tar -zxvf apache-shardingsphere-4.1.1-sharding-proxy-bin.tar.gz

解压后，进入到sharding-proxy的conf目录，这个目录sharding-proxy的配置目录，咱们全部的数据源、分片规则、读写分离等都在此目录下配置。sql

[root@centOS-1 conf]# ll
总用量 28
-rw-r--r--. 1 root root 3019 6月   4 15:24 config-encrypt.yaml
-rw-r--r--. 1 root root 3633 7月   7 13:51 config-master_slave.yaml
-rw-r--r--. 1 root root 2938 6月   4 15:24 config-shadow.yaml
-rw-r--r--. 1 root root 5463 7月   7 14:08 config-sharding.yaml
-rw-r--r--. 1 root root 1322 6月   4 15:24 logback.xml
-rw-r--r--. 1 root root 2171 7月   7 15:19 server.yaml

logback.xml是日志的配置。
server.yaml是Sharding-Proxy的一些基础配置，好比：帐号、密码、注册中心等。
剩下的全部以config开头的yaml文件，都是一个逻辑数据源，咱们能够看到最多见的两个config-sharding.yaml（分片的配置），config-master_slave.yaml（读写分离的配置）。注意，若是咱们要配置分片+读写分离，要不要在两个配置文件中配置呢？不须要的，咱们只须要在config-sharding.yaml中配置就能够了，若是要配置单独的读写分离，则须要按照config-master_slave.yaml配置。单独的读写分离和分片+读写分离在配置上，仍是有一些区别的。

这些配置咱们在后面会展开讲。Sharding-Proxy默认支持的数据库是PostgreSQL，而咱们大多数都是使用的MySQL，在这里咱们的数据库使用的是MySQL，咱们要将mysql-connector-java.jar这个jar包放入lib目录，这里推荐使用5.x版本的jar包，若是使用8.x可能会有一些位置的错误。shell

最后，咱们执行bin目录下的start.sh就能够运行了。数据库

./bin/start.sh

Sharding-Proxy默认的启动端口是3307，咱们在链接的时候要格外注意一下。apache

server.yaml配置

下面咱们看看server.yaml文件中，都具体配置哪些内容，咱们用vim打开文件，vim

vim server.yaml

文件的内容以下：数组

#########################################################################################
# 
# If you want to configure orchestration, authorization and proxy properties, please      refer to this file.
# 
#########################################################################################
#
#orchestration:
#  orchestration_ds:
#    orchestrationType: registry_center,config_center
#    instanceType: zookeeper
#    serverLists: 192.168.73.131:2181
#    namespace: sharding-proxy
#    props:
#      overwrite: false
#      retryIntervalMilliseconds: 500
#      timeToLiveSeconds: 60
#      maxRetries: 3
#      operationTimeoutMilliseconds: 500

authentication:
  users:
    root:
      password: root
    sharding:
      password: sharding
      authorizedSchemas: sharding_db

其中，orchestration是链接zookeeper注册中心，这里咱们暂时用不到，将其注释掉。
authentication中，配置的是用户名和密码，以及受权的数据库，在这里，咱们配置了两个用户，分别为：root/root和sharding/sharding，其中root默认受权全部的数据库，而sharding用户则受权sharding_db数据库。在这里的数据库（schema）是逻辑数据库，在config-*.yaml中配置的。

config-sharding.yaml的配置

这个文件是Sharding-Proxy的核心的配置，全部的分片规则都在这个文件中配置，让咱们一块儿来看看吧，服务器

schemaName: sharding_db

dataSources:
  ds_1:
    url: jdbc:mysql://192.168.73.132:3306/shard_order?serverTimezone=Asia/Shanghai&useSSL=false
    username: imooc
    password: Imooc@123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
  master_ds:
    url: jdbc:mysql://192.168.73.131:3306/sharding_order?serverTimezone=Asia/Shanghai&useSSL=false
    username: imooc
    password: Imooc@123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
  slave_ds_0:
    url: jdbc:mysql://192.168.73.130:3306/sharding_order?serverTimezone=Asia/Shanghai&useSSL=false
    username: imooc
    password: Imooc@123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50

在这个配置文件中，总共分为3个部分，咱们先看看前面2个部分。
schemaName：是逻辑数据库的名称，这里咱们叫作sharding_db。在server.yaml文件中，受权的schema就是这里的schemaName。
第二部分是数据源，在dataSources里边，咱们配置了3个数据源。分别是ds_一、master_ds和slave_ds_0。咱们先来讲一下数据库的规划吧，咱们的数据将经过user_id进行数据库的分片，总共有2个分片，user_id尾数为奇数的将分配到ds_1的数据库中，user_id尾数为偶数的，将分配到ds_0中，可是咱们的数据源中没有ds_0呀，ds_0将由master_ds和slave_ds_0组成一个读写分离数据源。

接下来再看看具体分片的配置，

shardingRule:
  masterSlaveRules:
    ds_0:
      masterDataSourceName: master_ds
      slaveDataSourceNames:
        - slave_ds_0
  tables:
    t_order:
      actualDataNodes: ds_${0..1}.t_order_${1..2}
      tableStrategy:
        inline:
          shardingColumn: order_id
          algorithmExpression: t_order_${order_id % 2 + 1}
      keyGenerator:
        type: SNOWFLAKE
        column: order_id
    t_order_item:
      actualDataNodes: ds_${0..1}.t_order_item_${1..2}
      tableStrategy:
        inline:
          shardingColumn: order_id
          algorithmExpression: t_order_item_${order_id % 2 + 1}
      keyGenerator:
        type: SNOWFLAKE
        column: id
  defaultDatabaseStrategy:
    inline:
      shardingColumn: user_id
      algorithmExpression: ds_${user_id % 2}
  defaultTableStrategy:
    none:
  defaultDataSourceName: ds_0

分片的配置都在shardingRule下。
在这里咱们要配置读写分离主从数据源，在这里咱们配置的是分片+读写分离，和单纯的读写分离配置是不同的。读写分离的配置在masterSlaveRules下，咱们配置读写分离数据源ds_0，指定主库的数据源masterDataSourceName为master_ds，master_ds在上面的数据源中已经配置，而从数据源slaveDataSourceNames能够配置多个，也就是一主多从的配置，咱们用数组的方式进行配置，- slave_ds_0指定从数据源为slave_ds_0，若是有多个从数据源，能够配置多个。
咱们先跳过tables的配置，往下看，defaultDataSourceName，默认数据源，咱们指定ds_0。这个配置很是有用，在咱们的项目中，并非全部的表都要进行水平切分，只有数据量比较大的表才会用到水平切分，好比：订单表（t_order）和订单明细表（t_order_item）。而其余的表数据量没有那么大，单库单表就能够彻底支撑，这些表没有分片规则，而咱们指定了默认的数据源，当咱们操做这些没有分片规则的表时，都统一使用默认的数据源。
defaultTableStrategy，默认表的分片规则，这里咱们配置的是none，没有。也就是说全部的分片表都要配置表的分片规则。
defaultDatabaseStrategy，默认数据库的分片规则，这里咱们配置它的规则为行内表达式，分片字段为user_id，规则为ds_${user_id % 2}，当user_id为偶数时，数据源为ds_0，也就是前面配置的读写分离数据源；而当user_id为奇数时，数据源为ds_1。若是咱们的表的分片规则中，没有配置数据源的分片规则，将使用这个默认数据源的分片策略。
最后再来看看tables的配置，这里配置的是分片表的规则，咱们配置两个表，t_order和t_order_item。每一个分片表都由3部分组成。首先，actualDataNodes，实际的数据节点，这个节点是在MySQL中真实存在的，以t_order的配置为例，ds_${0..1}.t_order_${1..2}，说明t_order的数据节点有4个，分表为ds_0.t_order_一、ds_0.t_order_二、ds_1.t_order_1和ds_1.t_order_2。再来看表的分片规则，tableStrategy，它的规则也是用行内表达式配置的，分片字段为order_id，规则为t_order_${order_id % 2 + 1}，当order_id为奇数时，数据会分配到表t_order_1中；当order_id为偶数时，会分配到表t_order_2中。

整个的分片策略就配置完了，决定每条数据的具体分片由两个字段决定，user_id决定数据分配到哪个数据源中，order_id决定数据分配到哪个表中。这就是分片+读写分离的配置，若是要进行更详细的配置，能够参考官方文档，这里不赘述了。

config-master_slave.yaml的配置

若是咱们只配置数据源的读写分离，而不进行分片配置，就须要参照这个配置文件进行配置了，虽然分片+读写分离的配置已经有了读写分离的配置，可是他俩之间仍是有一些细微的区别的，咱们来看看这个文件中的内容吧，

schemaName: master_slave_db

dataSources:
  master_ds:
    url: jdbc:mysql://192.168.73.131:3306/sharding_order?serverTimezone=Asia/Shanghai&useSSL=false
    username: imooc
    password: Imooc@123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
  slave_ds:
    url: jdbc:mysql://192.168.73.130:3306/sharding_order?serverTimezone=Asia/Shanghai&useSSL=false
    username: imooc
    password: Imooc@123456
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
  slave_ds_1:
    url: jdbc:mysql://127.0.0.1:3306/demo_ds_slave_1?serverTimezone=UTC&useSSL=false
    username: root
    password:
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50

masterSlaveRule:
  name: ds_0
  masterDataSourceName: master_ds
  slaveDataSourceNames:
    - slave_ds
    - slave_ds_1

首先，咱们仍是定义逻辑数据库的名称，schemaName: master_slave_db，叫作master_slave_db。
而后在dataSources中定义数据源，这些配置的结构是通用，和前面没有区别，咱们配置了3个数据源，一主两从，master_ds（主）、slave_ds（从）和slave_ds_1（从）。
最后就是主从的规则masterSlaveRule，在前面分片+读写分离的配置中，叫作masterSlaveRules，复数形式。说明在单独的读写分离配置中，只能配置一个主从数据源。主从数据源的名字叫作ds_0，主数据源masterDataSourceName是master_ds，从数据源slaveDataSourceNames配置了两个，slave_ds和slave_ds_1。

这里只是单纯的配置主从读写分离数据源，若是要配置分片+读写分离，请参照前面的配置。

config-shadow.yaml影子库配置

在如今微服务盛行的状况下，系统被切分的很细，这对于测试，尤为是压测是很是难的，若是在测试环境部署一套和生产如出一辙的环境，是很是浪费资源的。而若是只部署一两个服务，又不能进行全链路的总体压测。而咱们的解决方案是在生产环境直接进行压测，得出的结果也是真实有效的。那么这些压测的数据怎么办，若是不作特殊的处理，就和生产的真实数据混在一块儿了。

这里咱们就须要配置影子数据库了，全部压测数据都会有一个特殊的标识，sharding-proxy根据这个特殊的标识，将压测的数据分配到影子库中，和生产的真实数据隔离开，咱们看看具体怎么配置

schemaName: sharding_db

dataSources:
  ds:
    url: jdbc:mysql://127.0.0.1:3306/demo_ds_0?serverTimezone=UTC&useSSL=false
    username: root
    password:
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50
  shadow_ds:
    url: jdbc:mysql://127.0.0.1:3306/demo_ds_1?serverTimezone=UTC&useSSL=false
    username: root
    password:
    connectionTimeoutMilliseconds: 30000
    idleTimeoutMilliseconds: 60000
    maxLifetimeMilliseconds: 1800000
    maxPoolSize: 50

shadowRule:
  column: shadow
  shadowMappings:
    ds: shadow_ds

前面仍是逻辑数据库的名称和数据源的配置。在数据源咱们配置了两个，一个是真实的数据库ds，另外一个是影子库shadow_ds，全部压测的数据都会分配的影子库中。
shadowRule中配置影子库的规则，column，影子库字段标识，全部压测数据，在程序中，将此字段设置为true。shadowMappings是主库和影子库的映射关系，ds数据库的影子库是shadow_ds。

影子库的配置在咱们压测中仍是十分有用的，将测试数据和生产数据隔离开，不会影响到生产数据。

config-encrypt.yaml数据加密配置

最后咱们再看看数据加密的配置，一些用户的信息是不但愿在数据库中以明文存在的，好比：用户的身份证号、银行卡号。可是，在使用的时候，咱们还要把它解密回来。固然，咱们能够在程序中，针对这些字段进行加解密，这里呢，咱们看看Sharding-Proxy为咱们提供的数据加密配置。咱们看一下配置文件，

schemaName: encrypt_db

dataSource:
  url: jdbc:mysql://127.0.0.1:3306/demo_ds?serverTimezone=UTC&useSSL=false
  username: root
  password:
  connectionTimeoutMilliseconds: 30000
  idleTimeoutMilliseconds: 60000
  maxLifetimeMilliseconds: 1800000
  maxPoolSize: 50

encryptRule:
  encryptors:
    encryptor_aes: 
      type: aes
      props: 
        aes.key.value: 123456abc
  tables:
    t_card_no:
      columns:
        card_no:
          cipherColumn: card_no_cipher
          encryptor: encryptor_aes

逻辑库与数据源的配置略过。
在加密规则encryptRule中，咱们先定义加密算法，encryptor_aes，它的类型是aes，key是123456abc，这个key咱们能够修改，可是一旦用这个key产生数据，就不要再改了，若是改了，旧数据就不能正确的解密了。
而后在tables中定义加密数据的表t_card_no，加密的列为card_no，这个列是逻辑列，在表中不是真实存在的，当你的sql中不管查询、插入，出现这个字段，都会进行加密处理。而cipherColumn是加密后存储数据的列，encryptor则是加密的规则。例如，咱们执行insert into t_card_no (card_no) values ('123456')，card_no列在表t_card_no中并不存在，t_card_no中存在的是card_no_cipher列，咱们执行成功后，card_no_cipher列存的是密文数据；当咱们执行select card_no from t_card_no 时，虽然表t_card_no没有card_no 列，可是能够将card_no_cipher列解密，card_no 显示解密后的值。

数据加密在实际的应用中仍是比较多的。

总结

这一篇咱们主要介绍了Sharding-Proxy的一些基本功能，下一篇将给你们shardingsphere-ui和注册中心的应用。