【RabbitMQ】保证消息的不重复消费

1、出现非幂等性缘由
为保证消息的可达性，超时、重传、确认机制可能致使消息总线、或者业务方收到重复的消息，从而对业务产生影响。

可靠性投递机制：好比消息已经发送出去，mq已经收到了，而后mq在返回confirm的时候网络出现闪断，致使broker未收到应答，致使发送两次。
 MQ Broker服务与消费端传输消息的过程当中出现网络抖动。
消费端故障、异常。
2、生产者

MQ消息发送上半场，即上图中的1-3

1，发送端MQ-client将消息发给服务端MQ-server

2，服务端MQ-server将消息落地

3，服务端MQ-server回ACK给发送端MQ-client

若是3丢失，发送端MQ-client超时后会重发消息，可能致使服务端MQ-server收到重复消息。

 

此时重发是MQ-client发起的，消息的处理是MQ-server，为了不步骤2落地重复的消息，对每条消息，MQ系统内部必须生成一个inner-msg-id，做为去重和幂等的依据，这个内部消息ID的特性是：

（1）全局惟一

（2）MQ生成，具有业务无关性，对消息发送方和消息接收方屏蔽

 

有了这个inner-msg-id，就能保证上半场重发，也只有1条消息落到MQ-server的DB中，实现上半场幂等。

 

3、消费者

MQ消息发送下半场，即上图中的4-6

4，服务端MQ-server将消息发给接收端MQ-client

5，接收端MQ-client回ACK给服务端

6，服务端MQ-server将落地消息删除

须要强调的是，接收端MQ-client回ACK给服务端MQ-server，是消息消费业务方的主动调用行为，不能由MQ-client自动发起，由于MQ系统不知道消费方何时真正消费成功。

若是5丢失，服务端MQ-server超时后会重发消息，可能致使MQ-client收到重复的消息。

 

此时重发是MQ-server发起的，消息的处理是消息消费业务方，消息重发势必致使业务方重复消费（上例中的一次付款，重复发卡），为了保证业务幂等性，业务消息体中，必须有一个biz-id，做为去重和幂等的依据，这个业务ID的特性是：

（1）对于同一个业务场景，全局惟一

（2）由业务消息发送方生成，业务相关，对MQ透明

（3）由业务消息消费方负责判重，以保证幂等

 

最多见的业务ID有：支付ID，订单ID，帖子ID等。

 

具体到支付购卡场景，发送方必须将支付ID放到消息体中，消费方必须对同一个支付ID进行判重，保证购卡的幂等。

 

有了这个业务ID，才可以保证下半场消息消费业务方即便收到重复消息，也只有1条消息被消费，保证了幂等。

 

3、总结
MQ为了保证消息必达，消息上下半场都可能发送重复消息，如何保证消息的幂等性呢？

上半场

MQ-client生成inner-msg-id，保证上半场幂等。

这个ID全局惟一，业务无关，由MQ保证。

 

下半场

业务发送方带入biz-id，业务接收方去重保证幂等。

这个ID对单业务惟一，业务相关，对MQ透明。

 

结论：幂等性，不只对MQ有要求，对业务上下游也有要求。