关于MQ的几件小事(五)如何保证消息按顺序执行

1.为何要保证顺序

消息队列中的若干消息若是是对同一个数据进行操做,这些操做具备先后的关系,必需要按先后的顺序执行,不然就会形成数据异常。举例: 好比经过mysql binlog进行两个数据库的数据同步,因为对数据库的数据操做是具备顺序性的,若是操做顺序搞反,就会形成不可估量的错误。好比数据库对一条数据依次进行了 插入->更新->删除操做,这个顺序必须是这样,若是在同步过程当中,消息的顺序变成了 删除->插入->更新,那么本来应该被删除的数据,就没有被删除,形成数据的不一致问题。mysql

2.出现顺序错乱的场景

(1)rabbitmq
①一个queue,有多个consumer去消费,这样就会形成顺序的错误,consumer从MQ里面读取数据是有序的,可是每一个consumer的执行时间是不固定的,没法保证先读到消息的consumer必定先完成操做,这样就会出现消息并无按照顺序执行,形成数据顺序错误。 sql

rabbitmq消息顺序错乱第一种状况示意图.png

②一个queue对应一个consumer,可是consumer里面进行了多线程消费,这样也会形成消息消费顺序错误。 数据库

abbitmq消息顺序错乱第二种状况示意图.png

(2)kafka
①kafka一个topic,一个partition,一个consumer,可是consumer内部进行多线程消费,这样数据也会出现顺序错乱问题。 多线程

kafka消息顺序错乱第一种状况示意图.png

②具备顺序的数据写入到了不一样的partition里面,不一样的消费者去消费,可是每一个consumer的执行时间是不固定的,没法保证先读到消息的consumer必定先完成操做,这样就会出现消息并无按照顺序执行,形成数据顺序错误。 post

kafka消息顺序错乱第二种状况示意图..png

3.保证消息的消费顺序

(1)rabbitmq
①拆分多个queue,每一个queue一个consumer,就是多一些queue而已,确实是麻烦点;这样也会形成吞吐量降低,能够在消费者内部采用多线程的方式取消费。 线程

一个queue对应一个consumer

②或者就一个queue可是对应一个consumer,而后这个consumer内部用内存队列作排队,而后分发给底层不一样的worker来处理 3d

一个queue对应一个consumer,采用多线程.png

(2)kafka
①确保同一个消息发送到同一个partition,一个topic,一个partition,一个consumer,内部单线程消费。 cdn

单线程保证顺序.png

②写N个内存queue,而后N个线程分别消费一个内存queue便可 blog

多线程保证顺序.png

上一篇《如何防止数据队列数据丢失
下一篇《消息积压在消息队列里怎么办rabbitmq

相关文章
相关标签/搜索