消息队列是分布式系统中重要的组件,在不少生产环境如商品抢购等须要控制并发量的场景下都须要用到。
本部分主要介绍消息队列的使用场景和消息队列的两种模式sql
消息队列(Message Queue),是分布式系统中重要的组件,其通用的使用场景能够简单地描述为:
当不须要当即得到结果,可是并发量又须要进行控制的时候,差很少就是须要使用消息队列的时候。
消息队列主要解决了应用耦合、异步处理、流量削锋等问题。
当前使用较多的消息队列有RabbitMQ、RocketMQ、ActiveMQ、Kafka、ZeroMQ、MetaMq等,而部分数据库如Redis、Mysql以及phxsql也可实现消息队列的功能。数据库
消息队列在实际应用中包括以下四个场景:
l 应用耦合:多应用间经过消息队列对同一消息进行处理,避免调用接口失败致使整个过程失败;
l 异步处理:多应用对消息队列中同一消息进行处理,应用间并发处理消息,相比串行处理,减小处理时间;
l 限流削峰:普遍应用于秒杀或抢购活动中,避免流量过大致使应用系统挂掉的状况;
l 消息驱动的系统:系统分为消息队列、消息生产者、消息消费者,生产者负责产生消息,消费者(可能有多个)负责对消息进行处理;
下面详细介绍上述四个场景以及消息队列如何在上述四个场景中使用:服务器
2.1 异步处理
具体场景:用户为了使用某个应用,进行注册,系统须要发送注册邮件并验证短信。对这两个操做的处理方式有两种:串行及并行。
(1)串行方式:新注册信息生成后,先发送注册邮件,再发送验证短信;网络
在这种方式下,须要最终发送验证短信后再返回给客户端。并发
(2)并行处理:新注册信息写入后,由发短信和发邮件并行处理;异步
在这种方式下,发短信和发邮件需处理完成后再返回给客户端。分布式
假设以上三个子系统处理的时间均为50ms,且不考虑网络延迟,则总的处理时间:
串行:50+50+50=150ms
并行:50+50 = 100ms网站
若使用消息队列:ui
并在写入消息队列后当即返回成功给客户端,则总的响应时间依赖于写入消息队列的时间,而写入消息队列的时间自己是能够很快的,基本能够忽略不计,所以总的处理时间相比串行提升了2倍,相比并行提升了一倍;索引
2.2 应用耦合
具体场景:用户使用QQ相册上传一张图片,人脸识别系统会对该图片进行人脸识别,通常的作法是,服务器接收到图片后,图片上传系统当即调用人脸识别系统,调用完成后再返回成功,以下图所示:
该方法有以下缺点:
人脸识别系统被调失败,致使图片上传失败;
延迟高,须要人脸识别系统处理完成后,再返回给客户端,即便用户并不须要当即知道结果;
图片上传系统与人脸识别系统之间互相调用,须要作耦合;
若使用消息队列:
客户端上传图片后,图片上传系统将图片信息如uin、批次写入消息队列,直接返回成功;而人脸识别系统则定时从消息队列中取数据,完成对新增图片的识别。
此时图片上传系统并不须要关心人脸识别系统是否对这些图片信息的处理、以及什么时候对这些图片信息进行处理。事实上,因为用户并不须要当即知道人脸识别结果,人脸识别系统能够选择不一样的调度策略,按照闲时、忙时、正常时间,对队列中的图片信息进行处理。
2.3 限流削峰
具体场景:购物网站开展秒杀活动,通常因为瞬时访问量过大,服务器接收过大,会致使流量暴增,相关系统没法处理请求甚至崩溃。而加入消息队列后,系统能够从消息队列中取数据,至关于消息队列作了一次缓冲。
该方法有以下优势:
请求先入消息队列,而不是由业务处理系统直接处理,作了一次缓冲,极大地减小了业务处理系统的压力;
队列长度能够作限制,事实上,秒杀时,后入队列的用户没法秒杀到商品,这些请求能够直接被抛弃,返回活动已结束或商品已售完信息;
2.4 消息驱动的系统
具体场景:用户新上传了一批照片, 人脸识别系统须要对这个用户的全部照片进行聚类,聚类完成后由对帐系统从新生成用户的人脸索引(加快查询)。这三个子系统间由消息队列链接起来,前一个阶段的处理结果放入队列中,后一个阶段从队列中获取消息继续处理。
该方法有以下优势:
避免了直接调用下一个系统致使当前系统失败;
每一个子系统对于消息的处理方式能够更为灵活,能够选择收到消息时就处理,能够选择定时处理,也能够划分时间段按不一样处理速度处理;
消息队列包括两种模式,点对点模式(point to point, queue)和发布/订阅模式(publish/subscribe,topic)。
3.1 点对点模式
点对点模式下包括三个角色:
消息队列
发送者 (生产者)
接收者(消费者)
消息发送者生产消息发送到queue中,而后消息接收者从queue中取出而且消费消息。消息被消费之后,queue中再也不有存储,因此消息接收者不可能消费到已经被消费的消息。
点对点模式特色:
每一个消息只有一个接收者(Consumer)(即一旦被消费,消息就再也不在消息队列中);
发送者和接收者间没有依赖性,发送者发送消息以后,无论有没有接收者在运行,都不会影响到发送者下次发送消息;
接收者在成功接收消息以后需向队列应答成功,以便消息队列删除当前接收的消息;
3.2 发布/订阅模式
发布/订阅模式下包括三个角色:
角色主题(Topic)
发布者(Publisher)
订阅者(Subscriber)
发布者将消息发送到Topic,系统将这些消息传递给多个订阅者。
发布/订阅模式特色:
每一个消息能够有多个订阅者;
发布者和订阅者之间有时间上的依赖性。针对某个主题(Topic)的订阅者,它必须建立一个订阅者以后,才能消费发布者的消息。
为了消费消息,订阅者须要提早订阅该角色主题,并保持在线运行;
四种经常使用的消息队列(RabbitMQ/ActiveMQ/RocketMQ/Kafka)的主要特性、优势、缺点,请查看【广州校区】+ 【原创】分布式消息队列【下】