RabbitMQ 高可用集群搭建

  1. 面向EDA(事件驱动架构)的方式来设计你的消息
  2. AMQP routing key的设计
  3. RabbitMQ cluster搭建
  4. Mirror queue policy设置
  5. 两个不错的RabbitMQ plugin 大型应用插件(Sharding、Rederation)
  6. Queue镜像失败手动同步
  7. 各集群配置同步方式(RabbitMQ export\import)
  8. 客户端链接方式(尽可能采用AMQP组来动态连接)
  9. RabbitMQ 产线二次产品化封装(消息补偿、发送消息持久化、异常处理、监控页面、重复消息剔除)

1.面向EDA(事件驱动架构)的方式来设计你的消息

在一般状况下你在使用消息中间件的时候,都是未经设计的使用,你没有把应用架构和系统架构边界搞清楚。消息中间件只是一个纯粹的技术工具,当你引入的时候是站在应用架构的角度引入的。这是架构的角度,也是架构的上帝视角,这样你就不会用到最后发现愈来愈混乱,并且也没法结合软件模式、方法论、最佳实践来综合提高系统的架构能力。html

EDA(Event Driven Architecture,EDA) 事件驱动架构,它是一种用来在SOA或者Micro service中进行的架构模式。它的好处有几个,柔性具备很高的伸缩性。node

(具体参考本人的SOA架构文章:SOA架构设计经验分享—架构、职责、数据一致性git

既然要EDA就要规划好你当前的系统边界以内有多少业务实体,这些实体是围绕着领域模型而得来。因此这里不要很主观的就定义一些你认为的事件,这些事件要根据业务实体中的对象来设计。业务实体起码是有惟一Identity的。好比,订单、商品,围绕着这些实体展开,订单可能有几个状态是比较经常使用的,建立、支付、配送、取消。商品可能有价格、关键属性修改等等。这些实体的抽象和提炼取决于你当前的业务。github

(有关这方面内容能够参考:《领域驱动设计》、《探索CQRS和事件源》)web

这些是相对理论的指导思想,有了这些以后你能够落地你的Rabbitmq,这样你就不会跑偏了。好比,你的消息名称不会是看起来没结构和层次的,deliveryMssage(配送消息)。而是应该,order.delivery.ondeliveryEvented(订单.配送.配送完成事件)这样的结构。spring

当你的层次结构不知足业务需求的时候,你可能还须要进一步明确事件范围,order.viporder.delivery.ondeliveryEvented(订单.VIP订单.配送.配送完成事件)。数据库

1

上图是一个事件驱动的基本场景,它最瞩目的几个特性就是这几个,首先是异步化的,能够大大提升系统的抗峰值能力。而后就是解耦,这不用说了,设计模式里的观察者模式没有人不知道它的好处。伸缩性,能够按需scaleout,好比rabbitmq的node能够很方便的加入。最终一致性解决了分布式系统的CAP定理的问题。vim

2.AMQP routing key的设计

AMQP协议中约定了routing key的设计和交互。为了实现订阅发布功能,咱们须要某种方式可以订阅本身所感兴趣的事件。因此在AMQP中的Binding中,能够根据routing key来进行模式匹配。因此,这里能够结合amqp routingkey与领域事件,发出来的事件就至关于amqp中的routingkey,这样能够完美的结合起来。设计模式

你的事件确定是随着业务发展逐渐增长的,而这个事件集合也没办法在一开始就定义清楚,因此这里有一个须要注意的就是,绑定的时候千万不要写死具体的routing key。好比,order.delivery.OnDeliveryEvented,这是订单配送,此时你Binding的时候routingkey就写成了”order.delivery.OnDeliveryEvented”。将来订单事件一扩展,就会很麻烦,不相关的事件都被订阅到,没法细化或者事件你没法获取到,由于routingkey改变了。因此在绑定的时候记住具体点绑定,也就是借助字符串的模式匹配绑定,好比,*.delivery.*,*.onDeliveryEvented”这样。未来愈来愈多的routingkey和event出来都不会影响你的绑定。你只须要根据本身的关心程度,绑定在事件的不一样层级上便可。api

2

上图中,orderBinding绑定了order事件,它订阅了顶级事件,也就是说将来任何类型的订单均可以被订阅到,好比,order.normalorder.delivery.onDeliveryEvent也能够被订阅到。而viporderBinding订阅了viporder事件,若是发送了一个order.normalorder.delivery.onDeliveryEvent就跟它不要紧了。

3.RabbitMQ cluster搭建

搞清楚了应用架构的事情,咱们开始着手搭建RabbitMQ cluster。rabbitmq这款AMQP产品是用erlang开发的,那么咱们稍微介绍下erlang。

我第一次正式接触erlang就是从rabbitmq开始的,一开始并无太多感受到特别的地方,后来才明白越明白愈加现挺喜欢这门语言的。喜欢的理由就是,它是自然的分布式语言。这句话提及来好像挺日常的,可是当你明白了.erlang.cookie机制以后才恍然大悟。瞬间顿悟了,为何要用erlang来搞rabbitmq,而是它真的很适合信息交换之类的软件。erlang是爱立信公司开发的专门用来开发高性能信息交换机的,想一想也会以为那些软件的性能和稳定性要求是极高的。RabbitMQ的节点发现和互连真的很方便,这在erlang的虚拟机中就集成了,并且具备高度容错能力。反正我对它颇有好感。

还有一点值得骄傲的是RabbitMQ是伟大的pivotal公司的,你应该知道pivotal公司是干什么的,若是你还不清楚建议你马上google下。

3

一开始我并无太关注他们的copyright,后来对pivotal公司愈来愈佩服以后忽然看到原来RabbitMQ也是他们家的,忽然信心倍增。这就是影响力和口碑,看看人家公司的spring、springboot、spring cloud,佩服的五体投地。(RabbtiMQ 官网:http://www.rabbitmq.com/

3.1.安装erlang & RabbitMQ

要想安装RabbitMQ,首先须要安装和配置好它的宿主环境erlang。去erlang官网下载好erlang otp_src源码包,而后在本地执行源码安装。(erlang官网:http://www.erlang.org/

因为我本机已经下载好了otp_src源码包,我是使用的otp_src_19.1版本。下载好以后解压缩,而后进入目录,执行./configure --prefix=/usr/erlang/,进行环境的检查和安装路径的选择。若是你提示“No curses library functions found”错误,是由于缺乏curses库,yum install –y ncurses-devel。安装后在进行configure。

若是没有报错的话,就说明安装成功了。你还须要配置下环境变量:

export PATH=$PATH:/usr/erlang/bin

source /etc/profile

此时使用erl命令检查下erlang是否能正常工做了。

接下来安装RabbitMQ,去官网下载运行的包就好了。

一样要配置下环境变量,这样你的命令才能被系统查找到。而后运行rabbitmq实例。

4

这里有一个须要注意,记得配置下hosts,在127.0.0.1里加上本机的名称。erlang进程须要host来进行链接,因此它会检查你的hosts配置。还须要设置下防火墙,三个端口要打开。15672是管理界面用的,25672是集群之间使用的端口,4369是erlang进程epmd用来作node链接的。

我配置了两个节点,192.168.0.10五、192.168.0.107,如今已经所有就绪。咱们添加原始帐号进入rabbitmq管理界面。

3.2.配置RabbitMQ cluster

先保证你的各个rabbitmq节点都是能够访问的,且打开rabbitmq_management plugin,这样能够当出现某个节点挂掉以后能够切换到其余管理界面查看状况或者管理。

打开管理界面插件:

rabbitmq-plugins enable rabbitmq_management

添加帐号:

rabbitmqctl add_user admin admin

添加 权限tag

rabbitmqctl set_user_tags admin administrator

5

6

保证两个节点都是能够正常工做的。下面咱们就将这两个节点链接起来造成高可用的cluster,这样咱们就可让咱们的exchange、queue在这两个节点之间复制,造成高可用的queue。

cd 到你的home目录下,我是在root下,里面有一个隐藏的.erlang.cookie文件,这就是我在前面介绍erlang时候提到的,这个文件是erlang用来发现和互连的基础。咱们须要作的很简单,将两个节点中的.erlang.cookie设置成同样的。这是erlang的约定,同样的cookie hash key他认为是合法和正确的链接。

.erlang.cookie默认是只读的,你须要修改下写入权限,而后复制粘贴下cookie  字符串便可。

chmod u+w .erlang.cookie

配置好了以后接下来配置hosts文件,erlang会使用hosts文件里的配置去发现节点。

vim /etc/hosts

192.168.0.107 rabbitmq_node2 
192.168.0.105 rabbitmq_node1

保证一样的配置在全部的节点上都是相同的。验证你配置的正确不正确你只须要在你的机器上ping rabbitmq_node1,试下请求的ip是否是你配置的便可。按照DNS的请求原理,hosts是最高优先权,除非浏览器有缓存,你直接用ping就不会有问题的。

选择一个节点stop,而后链接到另外节点。

rabbitmqctl stop_app

rabbitmqctl join_cluster rabbit@rabbitmq_node2

Clustering node rabbit@rabbitmq_node1 with rabbit@rabbitmq_node2 ...

rabbitmqctl start_app

节点已经链接成功。

7

默认状况下节点占用的memory是总内存的40%,能够根据本身的用途仔细研究rabbitmq的配置项。为了提升性能,不须要两个节点都是disc的节点,因此咱们须要启动一个节点为RAM模式。

rabbitmqctl change_cluster_node_type  ram

改变rabbitmq_node1为内存节点模式。

8

4.Mirror queue policy设置

节点是准备好了,接下来咱们须要设置exchange、queue 高可用策略,这样才能真的作到高可用。如今是物理上的机器或者说虚拟机节点是高可用的,可是里面的对象须要咱们进行配置策略。

RabbitMQ支持很好的策略模式,须要管理员才能操做。

首先咱们须要建立一个属于本身业务范围内的vhost,标示一个逻辑上的独立空间,全部的帐号、策略、队列都是强制在某个虚拟机里的。我建立了一个common vhost。

开始添加policie。

9

最主要是Apply to ,能够做用在exchange或者queues上,固然也能够包含这两个。策略选择仍是比较丰富的,最经常使用的是HAmode,还有MessageTTL(消息的过时时间)。这些策略按照几个维度分组了,有跟高可用相关的,有Federation(集群之间同步消息)相关的 ,有Queue相关的,还有Exchange相关的。能够根据的业务场景进行调整。

10

咱们定义了策略的匹配模式.order.,这样能够避免将全部的exchange、queue都镜像了。

11

咱们新建了一个ex.order.topic exchange,它的features中应用了exchange_queue_ha策略。(相同的策略是没法叠加使用的。)其余的exchange并无应用这个策略,是由于咱们的pattern限定了只匹配.order.的名称。

12

建立一个qu.order.crm queue,注意看它的node属性里有一个”Synchronised mirrors:rabbit@rabbitmq_node2“镜像复制。features里也应用了exchange_queue_ha策略。这个时候,队列其实在两个节点里都是有的,虽然咱们建立的时候是在rabbit@rabbitmq_node1里的,可是它会复制到集群里的其余节点。在建立HAmode的时候能够提供HA params参数,来限定复制节点的个数,这一般用来提升性能和HA之间的平衡。

5.两个不错的RabbitMQ plugin 大型应用插件(Sharding、Rederation)

在rabbitmq-plugins中有两个plugin仍是能够试着研究研究的。rabbitmq-plugins list。

rabbitmq-plugins list 
Configured: E = explicitly enabled; e = implicitly enabled 
| Status:   * = running on rabbit@rabbitmq_node1 
|/ 
[e*] amqp_client                       3.6.5 
[  ] cowboy                            1.0.3 
[  ] cowlib                            1.0.1 
[e*] mochiweb                          2.13.1 
[  ] rabbitmq_amqp1_0                  3.6.5 
[  ] rabbitmq_auth_backend_ldap        3.6.5 
[  ] rabbitmq_auth_mechanism_ssl       3.6.5 
[  ] rabbitmq_consistent_hash_exchange 3.6.5 
[  ] rabbitmq_event_exchange           3.6.5 
[  ] rabbitmq_federation               3.6.5 
[  ] rabbitmq_federation_management    3.6.5 
[  ] rabbitmq_jms_topic_exchange       3.6.5 
[E*] rabbitmq_management               3.6.5 
[e*] rabbitmq_management_agent         3.6.5 
[  ] rabbitmq_management_visualiser    3.6.5 
[  ] rabbitmq_mqtt                     3.6.5 
[  ] rabbitmq_recent_history_exchange  1.2.1 
[  ] rabbitmq_sharding                 0.1.0 
[  ] rabbitmq_shovel                   3.6.5 
[  ] rabbitmq_shovel_management        3.6.5 
[  ] rabbitmq_stomp                    3.6.5 
[  ] rabbitmq_top                      3.6.5 
[  ] rabbitmq_tracing                  3.6.5 
[  ] rabbitmq_trust_store              3.6.5 
[e*] rabbitmq_web_dispatch             3.6.5 
[  ] rabbitmq_web_stomp                3.6.5 
[  ] rabbitmq_web_stomp_examples       3.6.5 
[  ] sockjs                            0.3.4 
[e*] webmachine                        1.10.3

rabbitmq_sharding、rabbitmq_federation,rabbitmq_sharding的版本有点低了,github地址:https://github.com/rabbitmq/rabbitmq-sharding

13

Rederation 能够用来进行跨cluster或者node之间同步消息。http://www.rabbitmq.com/federated-exchanges.html

这个用来在不一样的domain之间传递消息仍是个不错的解决方案,跨机房或者跨网络区域,订阅别人的rabbitmq消息始终不太稳定,能够用这种方式来传递消息。

14

6.Queue镜像失败手动同步

有时候可能因为各类缘由致使queue mirror失败,这个时候能够手动进行同步,而不是像其余分布式系统来重启节点或者重建数据。

15

16

这个仍是比较方便的,有时候总有那么几个小问题须要你手动处理的。

7.各集群配置同步方式(RabbitMQ export\import)

各个环境的集群配置同步也是个平常运维的问题,还好RabbitMQ也提供了相关工具。

17

18

19

8.客户端链接方式(尽可能采用AMQP组来动态连接)

因为RabbitMQ是AMQP协议的实现,因此在进行远程链接的时候尽可能采用amqp协议的方式链接。

var amqpList = new List<AmqpTcpEndpoint> 

    new AmqpTcpEndpoint(new Uri("amqp://192.168.0.105:5672")), 
    new AmqpTcpEndpoint(new Uri("amqp://192.168.0.107:5672")) 
};

关于集群的vip方案其实也是须要综合考虑的,若是是统一的地址会面临三个问题,DNS、LoadBalance、VIP,这三个点都有可能致使集群链接不上。如今愈来愈多的方案倾向于在客户端作负载和故障转移,这有不少好处,消除了中间节点带来的故障几率。若是这三个点加在一块儿出现的可用性指标确定是比直接在客户端链接的低的多。

咱们碰到最多就是VIP的问题,这类系统的VIP不一样于数据库,数据库的master\slave大多都是要人工check后才切换,不会随便自动的切换主从库。而非数据库的VIP大多都是Keepalived自动检测切换,这带来一些列问题,包括链接重试、心跳保持。这只是VIP的出错场景之一。还有LoadBalance带来的问题,DNS出错的可能性也是很大。因此我倾向于使用客户端来作这些。

20

有几个地方很重要,第一个就是消息的Persistent持久化状态要带上,第二个就是ContentType,这个属性很实用,方便你查看消息的正文。

21

若是没设置,默认是null。

第三个就是AutomaticRecoveryEnabled,自动链接重试,这致命重要。当上面的VIP切换以后这个能够保命。第四个就是TopologyRecoveryEnabled,从新恢复Exchange、queue、binding。在出现网络断开以后,一旦恢复链接就会恢复这些设置以保证是最新的设置。

9.RabbitMQ 产线二次产品化封装(消息补偿、发送消息持久化、异常处理、监控页面、重复消息剔除)

无论rabbitmq保证的多么强壮,多么高可用,记住必定要有备用方案。

在以前我写了一篇文章,WebAPi的可视化输出模式(RabbitMQ、消息补偿相关)——全部webapi彷佛都缺失的一个功能

说了就是消息的持久化和补偿。

22

一旦将发送和接受的消息持久化以后咱们能作到事情就比较多了。消息补偿是能够作的,异常也不用担忧。可是在发送消息的时候必定要注意,是先持久化消息在业务逻辑处理。为了应对特殊活动的监控,还能够开发必定的业务来监控消息的接受和处理的数量,而后自动补偿。

在开发补偿程序的时候有一个逻辑挺饶人的,当你对某一个消息进行补偿的时候会多出发送消息,而接受的消息确定是比你发送的少。因此你在统计的时候记得DISTINCT下。

相关文章:

封装RabbitMQ.NET Library 的一点经验总结

WebAPi的可视化输出模式(RabbitMQ、消息补偿相关)——全部webapi彷佛都缺失的一个功能

 

相关文章
相关标签/搜索