Redis 3.2.1集群搭建

1、概述

    Redis3.0版本以后支持Cluster.

1.一、redis cluster的现状

 　　目前redis支持的cluster特性：

　　1):节点自动发现

　　2):slave->master 选举,集群容错

　　3):Hot resharding:在线分片

　　4):进群管理:cluster xxx

　　5):基于配置(nodes-port.conf)的集群管理

　　6):ASK 转向/MOVED 转向机制.

1.二、redis cluster 架构

　　1)redis-cluster架构图

　　架构细节:

　　(1)全部的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽.

　　(2)节点的fail是经过集群中超过半数的节点检测失效时才生效.

　　(3)客户端与redis节点直连,不须要中间proxy层.客户端不须要链接集群全部节点,链接集群中任何一个可用节点便可

　　(4)redis-cluster把全部的物理节点映射到[0-16383]slot上,cluster 负责维护node<->slot<->value

 

   2) redis-cluster选举:容错

　　(1)领着选举过程是集群中全部master参与,若是半数以上master节点与master节点通讯超过(cluster-node-timeout),认为当前master节点挂掉.

　　(2):何时整个集群不可用(cluster_state:fail),当集群不可用时,全部对集群的操做作都不可用，收到((error) CLUSTERDOWN The cluster is down)错误

    　　a:若是集群任意master挂掉,且当前master没有slave.集群进入fail状态,也能够理解成进群的slot映射[0-16383]不完成时进入fail状态.

    　　b:若是进群超过半数以上master挂掉，不管是否有slave集群进入fail状态.

 

2、redis cluster安装

    一、下载和解包

1 2 3

cd /usr/local/ wget http://download.redis.io/releases/redis-3.2.1.tar.gz tar -zxvf /redis-3.2.1.tar.gz

　二、 编译安装

cd redis-3.2.1
 make && make install

  三、建立redis节点

     测试咱们选择2台服务器，分别为：192.168.1.237，192.168.1.238.每分服务器有3个节点。

  我先在192.168.1.237建立3个节点：

cd /usr/local/
  mkdir redis_cluster  //建立集群目录
  mkdir 7000 7001 7002  //分别表明三个节点    其对应端口 7000 7001 7002
 //建立7000节点为例，拷贝到7000目录
 cp /usr/local/redis-3.2.1/redis.conf  ./redis_cluster/7000/   
 //拷贝到7001目录
 cp /usr/local/redis-3.2.1/redis.conf  ./redis_cluster/7001/   
 //拷贝到7002目录
 cp /usr/local/redis-3.2.1/redis.conf  ./redis_cluster/7002/

   分别对7001，700二、7003文件夹中的3个文件修改对应的配置

daemonize    yes                          //redis后台运行
pidfile  /var/run/redis_7000.pid          //pidfile文件对应7000,7002,7003
port  7000                                //端口7000,7002,7003
cluster-enabled  yes                      //开启集群  把注释#去掉
cluster-config-file  nodes_7000.conf      //集群的配置  配置文件首次启动自动生成 7000,7001,7002
cluster-node-timeout  5000                //请求超时  设置5秒够了
appendonly  yes                           //aof日志开启  有须要就开启，它会每次写操做都记录一条日志

   在192.168.1.238建立3个节点：对应的端口改成7003,7004,7005.配置对应的改一下就能够了。

   四、两台机启动各节点(两台服务器方式同样)

cd /usr/local
redis-server  redis_cluster/7000/redis.conf
redis-server  redis_cluster/7001/redis.conf
redis-server  redis_cluster/7002/redis.conf
redis-server  redis_cluster/7003/redis.conf
redis-server  redis_cluster/7004/redis.conf
redis-server  redis_cluster/7005/redis.conf

   五、查看服务

      ps -ef | grep redis   #查看是否启动成功

     netstat -tnlp | grep redis #能够看到redis监听端口

3、建立集群

  前面已经准备好了搭建集群的redis节点，接下来咱们要把这些节点都串连起来搭建集群。官方提供了一个工具：redis-trib.rb(/usr/local/redis-3.2.1/src/redis-trib.rb) 看后缀就知道这鸟东西不能直接执行，它是用ruby写的一个程序，因此咱们还得安装ruby.

yum -y install ruby ruby-devel rubygems rpm-build

  再用 gem 这个命令来安装 redis接口    gem是ruby的一个工具包.

gem install redis    //等一下子就行了
固然，方便操做，两台Server都要安装。

  上面的步骤完事了，接下来运行一下redis-trib.rb

/usr/local/redis-3.2.1/src/redis-trib.rb

   Usage: redis-trib <command> <options> <arguments ...>

   reshard        host:port
                  --to <arg>
                  --yes
                  --slots <arg>
                  --from <arg>
  check          host:port
  call            host:port command arg arg .. arg
  set-timeout    host:port milliseconds
  add-node        new_host:new_port existing_host:existing_port
                  --master-id <arg>
                  --slave
  del-node        host:port node_id
  fix            host:port
  import          host:port
                  --from <arg>
  help            (show this help)
  create          host1:port1 ... hostN:portN
                  --replicas <arg>

For check, fix, reshard, del-node, set-timeout you can specify the host and port of any working node in the cluster.

     看到这，应该明白了吧， 就是靠上面这些操做 完成redis集群搭建的.

 确认全部的节点都启动，接下来使用参数create 建立 (在192.168.1.237中来建立)

/usr/local/redis-3.2.1/src/redis-trib.rb  create  --replicas  1  192.168.1.237:7000 192.168.1.237:7001  192.168.1.237:7003 192.168.1.238:7003  192.168.1.238:7004  192.168.1.238:7005

    解释下， --replicas  1  表示 自动为每个master节点分配一个slave节点    上面有6个节点，程序会按照必定规则生成 3个master（主）3个slave(从)

    前面已经提醒过的 防火墙必定要开放监听的端口，不然会建立失败。

 运行中，提示Can I set the above configuration? (type 'yes' to accept): yes    //输入yes

 接下来 提示  Waiting for the cluster to join..........  安装的时候在这里就一直等等等，没反应，傻傻等半天，看这句提示上面一句，Sending Cluster Meet Message to join the Cluster.

    这下明白了，我刚开始在一台Server上去配，也是不须要等的，这里还须要跑到Server2上作一些这样的操做。

    在192.168.1.238, redis-cli -c -p 700*  分别进入redis各节点的客户端命令窗口， 依次输入 cluster meet 192.168.1.238 7000……

    回到Server1，已经建立完毕了。

    查看一下 /usr/local/redis/src/redis-trib.rb check 192.168.1.237:7000

    到这里集群已经初步搭建好了。

 

4、测试

1）get 和 set数据

    redis-cli -c -p 7000

    进入命令窗口，直接 set  hello  howareyou

    直接根据hash匹配切换到相应的slot的节点上。

    仍是要说明一下，redis集群有16383个slot组成，经过分片分布到多个节点上，读写都发生在master节点。

  2）假设测试

    果断先把192.168.1.238服务Down掉，（192.168.1.238有1个Master, 2个Slave） ,  跑回192.168.1.238, 查看一下 发生了什么事，192.168.1.237的3个节点所有都是Master，其余几个Server2的不见了

    测试一下，依然没有问题，集群依然能继续工做。

    缘由：  redis集群  经过选举方式进行容错，保证一台Server挂了还能跑，这个选举是所有集群超过半数以上的Master发现其余Master挂了后，会将其余对应的Slave节点升级成Master.

    疑问： 要是挂的是192.168.1.237怎么办？    哥试了，cluster is down!!    没办法，超过半数挂了那救不了了，整个集群就没法工做了。 要是有三台Server，每台两Master，切记对应的主从节点

            不要放在一台Server,别问我为何本身用脑子想一想看，互相交叉配置主从，挂哪台也没事，你要说同时两台crash了，呵呵哒......

  3）关于一致性

    我尚未这么大胆拿redis来作数据库持久化哥网站数据，只是拿来作cache，官网说的很清楚，Redis Cluster is not able to guarantee strong consistency. 

 

测试集群

[root@master hadoop]# /usr/local/bin/redis-cli -h 192.168.56.101 -p 6380

192.168.56.101:6380> keys *

(empty list or set)

192.168.56.101:6380> set k1 123

(error) MOVED 12706 192.168.56.101:6382

由于k1的hash槽信息是在6382上，如今使用redis-cli链接的6380，没法完成set操做，须要客户端跟踪重定向，使用-c参数

[root@master hadoop]# /usr/local/bin/redis-cli -h 192.168.56.101 -p 6380 -c

192.168.56.101:6380> set k1 123

-> Redirected to slot [12706] located at 192.168.56.101:6382

OK

 

获取数据

k1的hash槽信息在6382上，在6382上能够直接获取，在其余节点仍是要重定向去获取

[root@master hadoop]# /usr/local/bin/redis-cli -h 192.168.56.101 -p 6380 -c

192.168.56.101:6380> get k1

-> Redirected to slot [12706] located at 192.168.56.101:6382

"123"

[root@master hadoop]# /usr/local/bin/redis-cli -h 192.168.56.101 -p 6382 -c

192.168.56.101:6382> get k1

"123"

 

 5、安装遇到的问题

     一、

　　CC adlist.o
　　/bin/sh: cc: command not found
　　make[1]: *** [adlist.o] Error 127
　　make[1]: Leaving directory `/usr/local/redis-3.2.1/src
　　make: *** [all] Error 2

     解决办法：GCC没有安装或版本不对，安装一下

yum  install  gcc

   二、

　　zmalloc.h:50:31:
　　error: jemalloc/jemalloc.h: No such file or directory
　　zmalloc.h:55:2: error:

　　#error "Newer version of jemalloc required"
　　make[1]: *** [adlist.o] Error
　　1
　　make[1]: Leaving directory `/data0/src/redis-2.6.2/src
　　make: *** [all]
　　Error 2

    解决办法：缘由是没有安装jemalloc内存分配器，能够安装jemalloc 或 直接

     输入make MALLOC=libc  && make install

记住该记住的,忘记该忘记的,改变能改变的,接受不能改变的!