就publish/subscribe功能看redis集群模式下的队列技术（一）

Redis 简介

Redis 是彻底开源免费的，是一个高性能的key-value数据库。

Redis 与其余 key - value 缓存产品有如下三个特色：

Redis支持数据的持久化，能够将内存中的数据保存在磁盘中，重启的时候能够再次加载进行使用。

Redis不只仅支持简单的key-value类型的数据，同时还提供list，set，zset，hash等数据结构的存储。

Redis支持数据的备份，即master-slave模式的数据备份。

性能极高 – Redis能读的速度是110000次/s,写的速度是81000次/s。

Redis的安装

 

wget http://download.redis.io/releases/redis-3.2.4.tar.gz

tar –zxvf redis-stable.tar.gz 解压

make 编译

可能出现问题make[3]: gcc: Command not found，未安装gcc编译工具

编译成功后，进入src文件夹，执行make install进行Redis安装

make install  --> /usr/local/bin目录下有：redis-server,redis-cli,redis-check-aof,redis-check-dump

redis-server –v   检查是否安装成功

启动redis，进入到redis.conf目录，执行

redis-server redis.conf.  若是后面没有跟redis.conf则按照默认配置启动

redis配置文件

         redis.conf 配置项说明以下：

1. Redis默认不是以守护进程的方式运行，能够经过该配置项修改，使用yes启用守护进程

    daemonize yes

2. 当Redis以守护进程方式运行时，Redis默认会把pid写入/var/run/redis.pid文件，能够经过pidfile指定

    pidfile /var/run/redis.pid

3. 指定Redis监听端口，默认端口为6379，做者在本身的一篇博文中解释了为何选用6379做为默认端口，由于6379在手机按键上MERZ对应的号码，而MERZ取自意大利歌女Alessia Merz的名字

    port 6379

4. 绑定的主机地址

    bind 127.0.0.1   这个Ip要设置成你服务器的Ip

5.当 客户端闲置多长时间后关闭链接，若是指定为0，表示关闭该功能

    timeout 300

6. 指定日志记录级别，Redis总共支持四个级别：debug、verbose、notice、warning，默认为verbose

    loglevel verbose

7. 日志记录方式，默认为标准输出，若是配置Redis为守护进程方式运行，而这里又配置为日志记录方式为标准输出，则日志将会发送给/dev/null

    logfile stdout

8. 设置数据库的数量，默认数据库为0，可使用SELECT <dbid>命令在链接上指定数据库id

    databases 16

9. 指定在多长时间内，有多少次更新操做，就将数据同步到数据文件，能够多个条件配合

    save <seconds> <changes>

    Redis默认配置文件中提供了三个条件：

    save 900 1

    save 300 10

    save 60 10000

    分别表示900秒（15分钟）内有1个更改，300秒（5分钟）内有10个更改以及60秒内有10000个更改。

 

10. 指定存储至本地数据库时是否压缩数据，默认为yes，Redis采用LZF压缩，若是为了节省CPU时间，能够关闭该选项，但会致使数据库文件变的巨大

    rdbcompression yes

11. 指定本地数据库文件名，默认值为dump.rdb

    dbfilename dump.rdb

12. 指定本地数据库存放目录

    dir ./

13. 设置当本机为slav服务时，设置master服务的IP地址及端口，在Redis启动时，它会自动从master进行数据同步

    slaveof <masterip> <masterport>

14. 当master服务设置了密码保护时，slav服务链接master的密码

    masterauth <master-password>

15. 设置Redis链接密码，若是配置了链接密码，客户端在链接Redis时须要经过AUTH <password>命令提供密码，默认关闭

    requirepass foobared

16. 设置同一时间最大客户端链接数，默认无限制，Redis能够同时打开的客户端链接数为Redis进程能够打开的最大文件描述符数，若是设置 maxclients 0，表示不做限制。当客户端链接数到达限制时，Redis会关闭新的链接并向客户端返回max number of clients reached错误信息

    maxclients 128

17. 指定Redis最大内存限制，Redis在启动时会把数据加载到内存中，达到最大内存后，Redis会先尝试清除已到期或即将到期的Key，当此方法处理 后，仍然到达最大内存设置，将没法再进行写入操做，但仍然能够进行读取操做。Redis新的vm机制，会把Key存放内存，Value会存放在swap区

    maxmemory <bytes>

18. 指定是否在每次更新操做后进行日志记录，Redis在默认状况下是异步的把数据写入磁盘，若是不开启，可能会在断电时致使一段时间内的数据丢失。由于 redis自己同步数据文件是按上面save条件来同步的，因此有的数据会在一段时间内只存在于内存中。默认为no

    appendonly no

19. 指定更新日志文件名，默认为appendonly.aof

     appendfilename appendonly.aof

20. 指定更新日志条件，共有3个可选值： 
    no：表示等操做系统进行数据缓存同步到磁盘（快） 
    always：表示每次更新操做后手动调用fsync()将数据写到磁盘（慢，安全） 
    everysec：表示每秒同步一次（折衷，默认值）

    appendfsync everysec

 

21. 指定是否启用虚拟内存机制，默认值为no，简单的介绍一下，VM机制将数据分页存放，由Redis将访问量较少的页即冷数据swap到磁盘上，访问多的页面由磁盘自动换出到内存中（在后面的文章我会仔细分析Redis的VM机制）

     vm-enabled no

22. 虚拟内存文件路径，默认值为/tmp/redis.swap，不可多个Redis实例共享

     vm-swap-file /tmp/redis.swap

23. 将全部大于vm-max-memory的数据存入虚拟内存,不管vm-max-memory设置多小,全部索引数据都是内存存储的(Redis的索引数据 就是keys),也就是说,当vm-max-memory设置为0的时候,实际上是全部value都存在于磁盘。默认值为0

     vm-max-memory 0

24. Redis swap文件分红了不少的page，一个对象能够保存在多个page上面，但一个page上不能被多个对象共享，vm-page-size是要根据存储的 数据大小来设定的，做者建议若是存储不少小对象，page大小最好设置为32或者64bytes；若是存储很大大对象，则可使用更大的page，若是不 肯定，就使用默认值

     vm-page-size 32

25. 设置swap文件中的page数量，因为页表（一种表示页面空闲或使用的bitmap）是在放在内存中的，，在磁盘上每8个pages将消耗1byte的内存。

     vm-pages 134217728

26. 设置访问swap文件的线程数,最好不要超过机器的核数,若是设置为0,那么全部对swap文件的操做都是串行的，可能会形成比较长时间的延迟。默认值为4

     vm-max-threads 4

27. 设置在向客户端应答时，是否把较小的包合并为一个包发送，默认为开启

    glueoutputbuf yes

28. 指定在超过必定的数量或者最大的元素超过某一临界值时，采用一种特殊的哈希算法

    hash-max-zipmap-entries 64

    hash-max-zipmap-value 512

29. 指定是否激活重置哈希，默认为开启（后面在介绍Redis的哈希算法时具体介绍）

    activerehashing yes

30. 指定包含其它的配置文件，能够在同一主机上多个Redis实例之间使用同一份配置文件，而同时各个实例又拥有本身的特定配置文件

    include /path/to/local.conf

redis数据类型

         Redis支持五种数据类型：string（字符串），hash（哈希），list（列表），set（集合）及zset(sorted set：有序集合)。

String：

         Get、set。注意：一个键最大能存储512MB。

Hash：

            Hmset、hmget、hkeys、hvals

List：

            Lpush、lrange

Set

         sadd、smembers

zset

         ZADD 集合名  序号  集合元素

zadd myZSet 1 zlh

zadd mySet 2 Tom 3 Jim

zcard myZSet  查看zset集合的成员个数

zrange mZySet 0 -1

zrange mZySet 0 -1 withscores

zrank mZySet Jim  获取zset成员的下标位置

zcount mySet 1 3 

zrem myZSet zlh  删除指定的一个成员或多个成员

zscore myZset zlh

zincrby myZset 4 tom  tom的分数值加4

zrangebyscore myZset  1 5

Redis 发布订阅

         Redis 发布订阅(pub/sub)是一种消息通讯模式：发送者(pub)发送消息，订阅者(sub)接收消息。

 

subscribe dongnao  客户端订阅消息，dongnao为相应的频道

publish dongnao message  发布消息，同时订阅该频道的客户端能收到该消息

Redis 事务

         Redis 事务能够一次执行多个命令， 而且带有如下两个重要的保证：

事务是一个单独的隔离操做：事务中的全部命令都会序列化、按顺序地执行。事务在执行的过程当中，不会被其余客户端发送来的命令请求所打断。

事务是一个原子操做：事务中的命令要么所有被执行，要么所有都不执行。

一个事务从开始到执行会经历如下三个阶段：

开始事务。

命令入队。

执行事务。

 

MULTI  开始一个事物

Set dongnao jack

Get dongnao

Hmset  map key1 value1 key2 value2

Hmget map key1

Exec 执行事物

Redis 数据备份与恢复

默认状况下 每隔一段时间redis服务器程序会自动对数据库作一次遍历，把内存快照写在一个叫作“dump.rdb”的文件里，这个持久化机制叫作SNAPSHOT。有了SNAPSHOT后，若是服务器宕机，从新启动redis服务器程序时redis会自动加载dump.rdb，将数据库状态恢复到上一次作SNAPSHOT时的状态。

手动进行内存备份：

Save

Redis 安全

         config get requirepass  获取密码

         config set requirepass 123

         config get requirepass

auth password 密码验证

redis持久化

Snapshotting快照持久化

         RDB

 快照是默认的持久化方式。这种方式是就是将内存中数据以快照的方式写入到二进制文件中,默认的文件名为dump.rdb。能够经过配置设置自动作快照持久化的方式。咱们能够配置redis在n秒内若是超过m个key被修改就自动作快照，下面是默认的快照保存配置：

save 900 1  #900秒内若是超过1个key被修改，则发起快照保存
save 300 10 #300秒内容如超过10个key被修改，则发起快照保存
save 60 10000

client 也可使用save或者bgsave命令通知redis作一次快照持久化，每次快照持久化都是将内存数据完整写入到磁盘一次，并非增量的只同步脏数据。若是数据量大的话，并且写操做比较多，必然会引发大量的磁盘io操做，可能会严重影响性能。另外因为快照方式是在必定间隔时间作一次的，因此若是redis意外down掉的话，就会丢失最后一次快照后的全部修改。

Append-only

AOF

redis会将每个收到的写命令都经过write函数追加到文件中(默认是appendonly.aof)。当redis重启时会经过从新执行文件中保存的写命令来在内存中重建整个数据库的内容。

appendonly yes           #启用aof持久化方式
# appendfsync always   #每次收到写命令就当即强制写入磁盘，最慢的，可是保证彻底的持久化，不推荐使用
appendfsync everysec     #每秒钟强制写入磁盘一次，在性能和持久化方面作了很好的折中，推荐
# appendfsync no    #彻底依赖os，性能最好,持久化没保证

redis主从

         redis主从复制过程： 当配置好slave后，slave与master创建链接，而后发送sync命令。不管是第一次链接仍是从新链接，master都会启动一个后台进程，将 数据库快照保存到文件中，同时master主进程会开始收集新的写命令并缓存。后台进程完成写文件后，master就发送文件给slave，slave将 文件保存到硬盘上，再加载到内存中，接着master就会把缓存的命令转发给slave，后续master将收到的写命令发送给slave。若是master同时收到多个slave发来的同步链接命令，master只会启动一个进程来写数据库镜像，而后发送给全部的slave。master同步数据时是非阻塞式的，能够接收用户的读写请求。然而在slave端是阻塞模式的，slave在同步master数据时，并不可以响应客户端的查询。

能够在master禁用数据持久化，只须要注释掉master 配置文件中的全部save配置，而后只在slave上配置数据持久化

Redis集群

    Redis 集群中内置了 16384 个哈希槽，当须要在 Redis 集群中放置一个 key-value时，redis 先对 key 使用 crc16 算法算出一个结果，而后把结果对 16384 求余数，这样每一个 key 都会对应一个编号在 0-16383 之间的哈希槽，redis 会根据节点数量大体均等的将哈希槽映射到不一样的节点。集群的每一个节点负责一部分hash槽。这种结构很容易添加或者删除节点，而且不管是添加删除或者修改某一个节点，都不会形成集群不可用的状态。使用哈希槽的好处就在于能够方便的添加或移除节点。当须要增长节点时，只须要把其余节点的某些哈希槽挪到新节点就能够了；当须要移除节点时，只须要把移除节点上的哈希槽挪到其余节点就好了；在这一点上，咱们之后新增或移除节点的时候不用先停掉全部的 redis 服务。Hash slots

         基于centos的集群

         一、集群至少要有3个节点，每一个节点都有主从结构

                  新建三个文件夹，把配置文件cp进去，而后修改配置文件端口，把支持集群配置放开，启动该节点

cluster-enabled yes

cluster-config-file nodes.conf

cluster-node-timeout 5000

         二、安装ruby，必须2.0以上，2.0以上自带rubygems包管理器

         yum install ruby

         三、gem命令安装redis包，增长redis-trib.rb调用redis的接口包

         gem install redis

         四、用redis-trib.rb集群工具管理redis集群

         ./redis-trib.rb  create --replicas 1 120.77.22.187:7000 120.77.22.187:8000 120.77.22.187:9000 120.77.22.187:7010 120.77.22.187:8010 120.77.22.187:9010

         --replicas 1 设置从节点个数

         进入集群模式去操做redis命令,-c集群模式

         redis-cli -c  -h –p

 

 

redis集群添加节点

主要是看现象，slots转移时，对应数据会有什么变化？

增长节点

./redis-trib.rb add-node 127.0.0.1:7006 127.0.0.1:7000

查看节点状况

cluster nodes

移动哈希槽，哈希槽从新分配

./redis-trib.rb reshard 127.0.0.1:7000

输入all 表示从全部的主节点中随机转移，凑够xx个哈希槽

Redis集群删除节点

把hash slots转出来，转到其余master节点上

./redis-trib.rb reshard 127.0.0.1:7000

而后删除节点

./redis-trib.rb del-node 120.77.22.187:9020 94ee1415a16076f4070c5dd4b94defc14618dbb8

Redis-sentinel高可用

         Redis-Sentinel是Redis官方推荐的高可用性(HA)解决方案，当用Redis作Master-slave的高可用方案时，假如master宕机了，Redis自己(包括它的不少客户端)都没有实现自动进行主备切换，而Redis-sentinel自己也是一个独立运行的进程，它能监控多个master-slave集群，发现master宕机后能进行自动切换。

它的主要功能有如下几点

不时地监控redis是否按照预期良好地运行;

若是发现某个redis节点运行出现情况，可以通知另一个进程(例如它的客户端);

可以进行自动切换。当一个master节点不可用时，可以选举出master的多个slave(若是有超过一个slave的话)中的一个来做为新的master,其它的slave节点会将它所追随的master的地址改成被提高为master的slave的新地址。

须要注意的是，配置文件在sentinel运行期间是会被动态修改的，例如当发生主备切换时候，配置文件中的master会被修改成另一个slave。这样，以后sentinel若是重启时，就能够根据这个配置来恢复其以前所监控的redis集群的状态。

sentinel monitor mymaster 127.0.0.1 6379 1

sentinel down-after-milliseconds mymaster 60000

#sentinel can-failover mymaster yes

sentinel failover-timeout mymaster 180000

sentinel parallel-syncs mymaster 1

当sentinel集群式，解决这个问题的方法就变得很简单，只须要多个sentinel互相沟通来确认某个master是否真的死了，这个2表明，当集群中有2个sentinel认为master死了时，才能真正认为该master已经不可用了。

down-after-milliseconds
sentinel会向master发送心跳PING来确认master是否存活，若是master在“必定时间范围”内不回应PONG 或者是回复了一个错误消息，那么这个sentinel会主观地(单方面地)认为这个master已经不可用了(subjectively down, 也简称为SDOWN)。而这个down-after-milliseconds就是用来指定这个“必定时间范围”的，单位是毫秒。

can-failover

no 表示当前sentinel是一个观察者，只参与投票不参与实施failover

全局中至少有一个是yes

parallel-syncs

当新master产生时，同时进行“slaveof”到新master并进行“SYNC”的slave个数

默认为1,建议保持默认值  

在salve执行salveof与同步时，将会终止客户端请求
failover-timeout

failover过时时间，当failover开始后，在此时间内仍然没有触发任何failover操做

当前sentinel将会认为这次failoer失败