Mycat - 实现数据库的读写分离与高可用

前言

  开心一刻html

    上语文课,不当心睡着了,坐在边上的同桌忽然叫醒了我,并小声说道:“读课文第三段”。我立马起身大声读了起来。正在黑板写字的老师吓了一跳,老师郁闷的看着我,问道:“同窗有什么问题吗?”,我貌似知道了什么,蛋定的说了一句:“这段写的真好!我给大伙念念!”,老师还较真了:“你说说看,好在哪里?”,顿时我就无语了,脸黑着望向了同桌了,心想着:“这是个畜生啊!”java

 

  

  路漫漫其修远兮,吾将上下而求索!mysql

  github:https://github.com/youzhibinglinux

  码云(gitee):https://gitee.com/youzhibinggit

前情回顾

  mysql5.7.18的安装与主从复制中讲到了基于mysql5.7.18的主从复制结构的搭建,比较简单,只要细心点,很容易搭建成功。github

  spring集成mybatis实现mysql读写分离从代码层面实现了读写分离(实现方式:注解+aop),须要配置两个数据源:masterDataSource、slaveDataSource,分别针对主从数据库,另外还须要在代码层面明确指定用哪一个数据源。会增大代码量(虽然只是增长一个注解),而且耦合在代码中不利于拓展与后续维护,一旦进行修改就须要从新编译打包,最严重的是若是数据库宕机了,应用就会抛异常,彻底不能正常服务了。那么有没有其余层面的更优方案呢?确定是有的,咱们能够从数据库的层面来实现读写分离,应用代码不感知链接的是什么数据库,按平时单库的方式处理便可,具体实现咱们往下看。spring

mysql主从实现

  Mycat不负责任何的数据同步问题,mysql的主从复制还得从mysql层面来实现;若是没有实现mysql的主从复制,后文就都成了。sql

  mysql的主从复制是实现读写分离的基础,具体的搭建过程请参考:mysql5.7.18的安装与主从复制,本文就不展现详细的搭建过程了。个人mysql主从信息以下数据库

    master:192.168.1.210;slave:192.168.1.211; 须要复制的数据库:mycat_dbcentos

Mycat搭建

  Mycat是什么?是数据库中间件,介于数据库与应用之间,进行数据处理与交互的中间件服务,能够简单的理解成数据库代理,咱们的应用只须要与数据库中间件交互,而无需关注复杂的数据库部署。

  如上图所示,数据被分到多个分片数据库后,应用若是须要读取数据,就须要处理多个数据源的数据。若是没有数据库中间件,那么应用将直接面对分片集群,数据源切换、事务处理、数据聚合都须要在应用层直接处理,本来该是专一于业务的应用,将会花大量的工做来处理分片后的问题,最重要的是每一个应用处理将是彻底的重复造轮子。因此有了数据库中间件,应用只须要关注业务处理,大量的通用的数据聚合、事务、数据源切换都由数据库中间件来处理。更多Mycat信息,请查阅《Mycat权威指南》

  192.168.1.212上搭建Mycat

    JDK的安装

      Mycat依赖jdk,咱们须要先安装jdk,必须是JDK7或更高版本;具体安装过程就不作展现了,你们可参考:virtualBox安装centos,并搭建tomcat

    Mycat安装

      安装包:Mycat-server-1.6.6.1-release-20181031195535-linux.tar,在/opt目录下

        [root@centos212 opt]# cp Mycat-server-1.6.6.1-release-20181031195535-linux.tar.gz -C /usr/local
        [root@centos212 local]# useradd mycat
        [root@centos212 local]# chown -R mycat:mycat /usr/local/mycat
        [root@centos212 local]# passwd mycat  

      修改mycat内存配置
        个人linux虚拟机配置的内存大小是1GB,你们须要根据本身的实际状况进行配置

        [root@centos212 local]# vi mycat/conf/wrapper.conf

wrapper.java.additional.10=-Xmx4G    (大约在36行)
wrapper.java.additional.11=-Xms1G
改为
wrapper.java.additional.10=-Xmx1G
wrapper.java.additional.11=-Xms256M

      配置hostname(若已配置则忽略)       

        [root@centos212 local]# vi /etc/sysconfig/network
          追加一行:HOSTNAME=你的主机名(xxxx),个人主机名是centos212
        [root@centos212 local]# vi /etc/hosts
          在127.0.0.1和::1末尾追加你的主机名(xxxx),以下图所示,

      将MyCat配置到环境变量中

        [root@centos212 local]# vi /etc/profile

        增长以下内容         

          MYCAT_HOME=/usr/local/mycat
          PATH=$MYCAT_HOME/bin:$PATH

        保存后退出,执行source命令使配置生效

          [root@centos212 local]# source /etc/profile

      配置mycat

        server.xml和rule.xml先不修改,用默认的便可;只须要简单配置下schema.xml

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">

    <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
    </schema>
    <!-- <dataNode name="dn1$0-743" dataHost="localhost1" database="db$0-743"
        /> -->
    <dataNode name="dn1" dataHost="localhost1" database="test_db" />
    <dataHost name="localhost1" maxCon="1000" minCon="10" balance="0"
              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()</heartbeat>
        <writeHost host="hostM1" url="192.168.1.210:3306" user="root" password="123456" />
    </dataHost>
</mycat:schema>

        默认有两个帐号能够链接mycat的TESTDB,root:123456和user:user(在server.xml中),user帐号只有只读权限。

      启动mycat

         [root@centos212 local]# mycat start

  搭建结果展现

    能够看到,经过mycat咱们成功往192.168.1.210的test_db库中建立了一张tbl_user表。

mysql读写分离、高可用实现

  本文不涉及复杂的数据库部署,只是简单的mysql主从部署(单主单从),Mycat实现mysql的读写分离与高可用;mysql主从复制已经搭建好,Mycat也已经搭建好,剩下的就是配置Mycat,将Mycat与咱们的mysql整合起来,结构图以下

  如图所示,writeHost表示主节点,readHost表示从节点,Mycat内部按期对一个dataHost里全部的writeHost与readHost节点发起心跳检测(writeHost与readHost均可以配置多个,至于数据同步的问题则须要咱们从mysql层面实现了,Mycat并不提供数据同步的支持,本文只讲mysql一主一从),正常状况下,Mycat会将第一个writeHost做为写节点,全部的DML SQL会发送给此节点,若Mycat开启了读写分离,则Select SQL会根据读写分离策略发往readHost(+writeHost)执行。当一个dataHost里面配置了多个writeHost时,若是第一个writeHost宕机,则Mycat会在默认的3次心跳检查失败后,自动切换到下一个可用的writeHost,以此类推。

  这存在一个问题,就是当宕机的writeHost恢复后,怎么从新加入Mycat,要不要恢复为原来的写节点? 最佳建议方式是:保持现有状态不变,改旗易帜,恢复后的mysql节点做为从节点,跟随新的主节点,从新配置主从同步,原来跟随该节点作同步的从节点也一样换帅,从新配置同步源,这些节点的数据手工完成同步后,再加入Mycat里。

  配置Mycat,实现mysql读写分离与高可用

    此种需求下,Mycat的配置很是简单,不用针对每一个表进行配置,只须要在schema.xml中的元素上增长dataNode="defaultDN"属性,并配置此dataNode对应的真实物理数据库的database,而后dataHost开启读写分离功能便可。具体配置以下,server.xml和rule.xml先不修改,用默认的便可;只须要简单配置下schema.xml

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">

    <schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100" dataNode="dn1">
    </schema>
    <!-- <dataNode name="dn1$0-743" dataHost="localhost1" database="db$0-743"
        /> -->
    <dataNode name="dn1" dataHost="localhost1" database="mycat_db" />
    <dataHost name="localhost1" maxCon="1000" minCon="10" balance="1"
              writeType="0" dbType="mysql" dbDriver="native" switchType="1"  slaveThreshold="100">
        <heartbeat>select user()</heartbeat>
        <writeHost host="hostM1" url="192.168.1.210:3306" user="root" password="123456">
            <readHost host="hostS1" url="192.168.1.211:3306" user="root" password="123456" />    <!-- 读写分离; 写走hostM1,读走hostS1; hostM1宕机了, hostS1也不可用 -->
        </writeHost>
        <writeHost host="hostM2" url="192.168.1.211:3306" user="root" password="123456" /> <!-- 高可用,hostM1宕机了, hostM2顶上 -->
    </dataHost>
</mycat:schema>

    重启mycat:[root@centos212 logs]# mycat restart,mycat数据库TESTDB内容以下

  测试结果展现

    读写分离

      通常状况,查询会走slave节点,其余走master节点,对master节点数据库的增、删、改操做最终会同步到slave节点,但这个同步所须要的时间很差掌握(网络延时等因素),若是延时太长,咱们新增一条数据后当即去查询,颇有可能会查询不到刚新增的的数据;若是对数据的实时性要求比较高的查询,咱们能够强制查询走master节点,以下所示

        强制走master:/*!mycat:db_type=master*/ select * from tbl_user;强制走slave:/*!mycat:db_type=slave*/ select * from tbl_user

      另外咱们能够配置mycat,根据主从延时时长来决定查询走master仍是slave,具体配置可查阅《Mycat权威指南》。

      读写分离示例以下:

      能够看到,通常查询走的是slave;增、删、改走master,而后同步到slave;咱们也能够强制走master,仍是slave。示例中我手动的将slave中的王五改为了王五_1,是为了更好的展现查询请求是走的master仍是slave,真实状况是不会出现这种状况的。

    高可用

      咱们手动停掉master上的mysql服务,看看mycat能不能自动的切换到下一个writeHost,示例以下

      mycat将master从hostM1切换到hostM2须要必定的时间,切换过程当中若是强制从master操做,会抛出链接异常(java.net.ConnectException: 拒绝链接),这是属于正常状况。当切换完成以后,就能够正常操做mycat了,而咱们的操做方式无需作任何改变(应用无需作任何变化,仍按以前的方式访问mycat便可)。

      宕机的master节点修复后,如何从新加入mycat,这个问题在前面已经讲过,该节点及其readHost节点所有以slave的形式加入到其余writeHost的readHost中,修改schema.xml,而不要去修改dnindex.properties,另外还得从mysql层面修改同步源。

总结

  一、数据的同步在mysql层面实现的,mycat不负责任何的数据库同步;

  二、mycat的搭建比较简单,但也有一些注意点:依赖JDK以及其版本,hostname配置等等。期间若是遇到什么问题,尽可能百度,就不要google了,Mycat是中国制造,百度搜索的资料更全;

  三、数据库的读写分离是mycat最经常使用的场景之一,配置比较简单,细心一点,实现起来应该不难; 

  四、读写分离每每还伴随着高可用,一样mycat也支持mysql的高可用,可以自动的进行master的切换;

  五、关于mycat自身的高可用与负载均衡,请上飞机:Mycat - 高可用与负载均衡实现,满满的干货!

参考

  《Mycat实战指南》

相关文章
相关标签/搜索