RabbitMQ提供了6种消息模型,可是第6种实际上是RPC,并非MQ,所以不予学习。那么也就剩下5种。java
可是其实三、四、5这三种都属于订阅模型,只不过进行路由的方式不一样。面试
RabbitMQ是一个消息代理:它接受和转发消息。 你能够把它想象成一个邮局:当你把邮件放在邮箱里时,你能够肯定邮差先生最终会把邮件发送给你的收件人。 在这个比喻中,RabbitMQ是邮政信箱,邮局和邮递员。spring
RabbitMQ与邮局的主要区别是它不处理纸张,而是接受,存储和转发数据消息的二进制数据块。数据库
P(producer/ publisher):生产者,一个发送消息的用户应用程序。数组
C(consumer):消费者,消费和接收有相似的意思,消费者是一个主要用来等待接收消息的用户应用程序app
队列(红色区域):rabbitmq内部相似于邮箱的一个概念。虽然消息流经rabbitmq和你的应用程序,可是它们只能存储在队列中。队列只受主机的内存和磁盘限制,实质上是一个大的消息缓冲区。许多生产者能够发送消息到一个队列,许多消费者能够尝试从一个队列接收数据。框架
总之:异步
生产者将消息发送到队列,消费者从队列中获取消息,队列是存储消息的缓冲区。ide
咱们将用Java编写两个程序;发送单个消息的生产者,以及接收消息并将其打印出来的消费者。咱们将详细介绍Java API中的一些细节,这是一个消息传递的“Hello World”。spring-boot
咱们将调用咱们的消息发布者(发送者)Send和咱们的消息消费者(接收者)Recv。发布者将链接到RabbitMQ,发送一条消息,而后退出。
public class Send { private final static String QUEUE_NAME = "simple_queue"; public static void main(String[] argv) throws Exception { // 获取到链接以及mq通道 Connection connection = ConnectionUtil.getConnection(); // 从链接中建立通道,这是完成大部分API的地方。 Channel channel = connection.createChannel(); // 声明(建立)队列,必须声明队列才可以发送消息,咱们能够把消息发送到队列中。 // 声明一个队列是幂等的 - 只有当它不存在时才会被建立 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 消息内容 String message = "Hello World!"; channel.basicPublish("", QUEUE_NAME, null, message.getBytes()); System.out.println(" [x] Sent '" + message + "'"); //关闭通道和链接 channel.close(); connection.close(); } }
控制台:
进入队列页面,能够看到新建了一个队列:simple_queue
点击队列名称,进入详情页,能够查看消息:
在控制台查看消息并不会将消息消费,因此消息还在。
public class Recv { private final static String QUEUE_NAME = "simple_queue"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 建立通道 Channel channel = connection.createChannel(); // 声明队列 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 定义队列的消费者 DefaultConsumer consumer = new DefaultConsumer(channel) { // 获取消息,而且处理,这个方法相似事件监听,若是有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties, byte[] body) throws IOException { // body 即消息体 String msg = new String(body); System.out.println(" [x] received : " + msg + "!"); } }; // 监听队列,第二个参数:是否自动进行消息确认。 channel.basicConsume(QUEUE_NAME, true, consumer); } }
控制台:
这个时候,队列中的消息就没了:
咱们发现,消费者已经获取了消息,可是程序没有中止,一直在监听队列中是否有新的消息。一旦有新的消息进入队列,就会当即打印.
经过刚才的案例能够看出,消息一旦被消费者接收,队列中的消息就会被删除。
那么问题来了:RabbitMQ怎么知道消息被接收了呢?
若是消费者领取消息后,还没执行操做就挂掉了呢?或者抛出了异常?消息消费失败,可是RabbitMQ无从得知,这样消息就丢失了!
所以,RabbitMQ有一个ACK机制。当消费者获取消息后,会向RabbitMQ发送回执ACK,告知消息已经被接收。不过这种回执ACK分两种状况:
你们以为哪一种更好呢?
这须要看消息的重要性:
咱们以前的测试都是自动ACK的,若是要手动ACK,须要改动咱们的代码:
public class Recv2 { private final static String QUEUE_NAME = "simple_queue"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 建立通道 final Channel channel = connection.createChannel(); // 声明队列 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 定义队列的消费者 DefaultConsumer consumer = new DefaultConsumer(channel) { // 获取消息,而且处理,这个方法相似事件监听,若是有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties, byte[] body) throws IOException { // body 即消息体 String msg = new String(body); System.out.println(" [x] received : " + msg + "!"); // 手动进行ACK channel.basicAck(envelope.getDeliveryTag(), false); } }; // 监听队列,第二个参数false,手动进行ACK channel.basicConsume(QUEUE_NAME, false, consumer); } }
注意到最后一行代码:
channel.basicConsume(QUEUE_NAME, false, consumer);
若是第二个参数为true,则会自动进行ACK;若是为false,则须要手动ACK。方法的声明:
修改消费者,添加异常,以下:
生产者不作任何修改,直接运行,消息发送成功:
运行消费者,程序抛出异常。可是消息依然被消费:
管理界面:
修改消费者,把自动改为手动(去掉以前制造的异常)
生产者不变,再次运行:
运行消费者
可是,查看管理界面,发现:
停掉消费者的程序,发现:
这是由于虽然咱们设置了手动ACK,可是代码中并无进行消息确认!因此消息并未被真正消费掉。
当咱们关掉这个消费者,消息的状态再次称为Ready
修改代码手动ACK:
执行:
消息消费成功!
工做队列或者竞争消费者模式
在第一篇教程中,咱们编写了一个程序,从一个命名队列中发送并接受消息。在这里,咱们将建立一个工做队列,在多个工做者之间分配耗时任务。
工做队列,又称任务队列。主要思想就是避免执行资源密集型任务时,必须等待它执行完成。相反咱们稍后完成任务,咱们将任务封装为消息并将其发送到队列。 在后台运行的工做进程将获取任务并最终执行做业。当你运行许多工人时,任务将在他们之间共享,可是一个消息只能被一个消费者获取。
这个概念在Web应用程序中特别有用,由于在短的HTTP请求窗口中没法处理复杂的任务。
接下来咱们来模拟这个流程:
P:生产者:任务的发布者
C1:消费者,领取任务而且完成任务,假设完成速度较快
C2:消费者2:领取任务并完成任务,假设完成速度慢
面试题:避免消息堆积?
1) 采用workqueue,多个消费者监听同一队列。
2)接收到消息之后,而是经过线程池,异步消费。
生产者与案例1中的几乎同样:
public class Send { private final static String QUEUE_NAME = "test_work_queue"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明队列 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 循环发布任务 for (int i = 0; i < 50; i++) { // 消息内容 String message = "task .. " + i; channel.basicPublish("", QUEUE_NAME, null, message.getBytes()); System.out.println(" [x] Sent '" + message + "'"); Thread.sleep(i * 2); } // 关闭通道和链接 channel.close(); connection.close(); } }
不过这里咱们是循环发送50条消息。
与消费者1基本相似,就是没有设置消费耗时时间。
这里是模拟有些消费者快,有些比较慢。
接下来,两个消费者一同启动,而后发送50条消息:
能够发现,两个消费者各自消费了25条消息,并且各不相同,这就实现了任务的分发。
刚才的实现有问题吗?
如今的状态属因而把任务平均分配,正确的作法应该是消费越快的人,消费的越多。
怎么实现呢?
咱们可使用basicQos方法和prefetchCount = 1设置。 这告诉RabbitMQ一次不要向工做人员发送多于一条消息。 或者换句话说,不要向工做人员发送新消息,直到它处理并确认了前一个消息。 相反,它会将其分派给不是仍然忙碌的下一个工做人员。
再次测试:
在以前的模式中,咱们建立了一个工做队列。 工做队列背后的假设是:每一个任务只被传递给一个工做人员。 在这一部分,咱们将作一些彻底不一样的事情 - 咱们将会传递一个信息给多个消费者。 这种模式被称为“发布/订阅”。
订阅模型示意图:
解读:
一、1个生产者,多个消费者
二、每个消费者都有本身的一个队列
三、生产者没有将消息直接发送到队列,而是发送到了交换机
四、每一个队列都要绑定到交换机
五、生产者发送的消息,通过交换机到达队列,实现一个消息被多个消费者获取的目的
X(Exchanges):交换机一方面:接收生产者发送的消息。另外一方面:知道如何处理消息,例如递交给某个特别队列、递交给全部队列、或是将消息丢弃。到底如何操做,取决于Exchange的类型。
Exchange类型有如下几种:
Fanout:广播,将消息交给全部绑定到交换机的队列
Direct:定向,把消息交给符合指定routing key 的队列
Topic:通配符,把消息交给符合routing pattern(路由模式) 的队列
咱们这里先学习
Fanout:即广播模式
Exchange(交换机)只负责转发消息,不具有存储消息的能力,所以若是没有任何队列与Exchange绑定,或者没有符合路由规则的队列,那么消息会丢失!
Fanout,也称为广播。
流程图:
在广播模式下,消息发送流程是这样的:
两个变化:
public class Send { private final static String EXCHANGE_NAME = "fanout_exchange_test"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明exchange,指定类型为fanout channel.exchangeDeclare(EXCHANGE_NAME, "fanout"); // 消息内容 String message = "Hello everyone"; // 发布消息到Exchange channel.basicPublish(EXCHANGE_NAME, "", null, message.getBytes()); System.out.println(" [生产者] Sent '" + message + "'"); channel.close(); connection.close(); } }
public class Recv { private final static String QUEUE_NAME = "fanout_exchange_queue_1"; private final static String EXCHANGE_NAME = "fanout_exchange_test"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明队列 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 绑定队列到交换机 channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, ""); // 定义队列的消费者 DefaultConsumer consumer = new DefaultConsumer(channel) { // 获取消息,而且处理,这个方法相似事件监听,若是有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties, byte[] body) throws IOException { // body 即消息体 String msg = new String(body); System.out.println(" [消费者1] received : " + msg + "!"); } }; // 监听队列,自动返回完成 channel.basicConsume(QUEUE_NAME, true, consumer); } }
要注意代码中:队列须要和交换机绑定
public class Recv2 { private final static String QUEUE_NAME = "fanout_exchange_queue_2"; private final static String EXCHANGE_NAME = "fanout_exchange_test"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明队列 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 绑定队列到交换机 channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, ""); // 定义队列的消费者 DefaultConsumer consumer = new DefaultConsumer(channel) { // 获取消息,而且处理,这个方法相似事件监听,若是有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties, byte[] body) throws IOException { // body 即消息体 String msg = new String(body); System.out.println(" [消费者2] received : " + msg + "!"); } }; // 监听队列,手动返回完成 channel.basicConsume(QUEUE_NAME, true, consumer); } }
咱们运行两个消费者,而后发送1条消息:
有选择性的接收消息
在订阅模式中,生产者发布消息,全部消费者均可以获取全部消息。
在路由模式中,咱们将添加一个功能 - 咱们将只能订阅一部分消息。 例如,咱们只能将重要的错误消息引导到日志文件(以节省磁盘空间),同时仍然可以在控制台上打印全部日志消息。
可是,在某些场景下,咱们但愿不一样的消息被不一样的队列消费。这时就要用到Direct类型的Exchange。
在Direct模型下,队列与交换机的绑定,不能是任意绑定了,而是要指定一个RoutingKey(路由key)
消息的发送方在向Exchange发送消息时,也必须指定消息的routing key。
P:生产者,向Exchange发送消息,发送消息时,会指定一个routing key。
X:Exchange(交换机),接收生产者的消息,而后把消息递交给 与routing key彻底匹配的队列
C1:消费者,其所在队列指定了须要routing key 为 error 的消息
C2:消费者,其所在队列指定了须要routing key 为 info、error、warning 的消息
此处咱们模拟商品的增删改,发送消息的RoutingKey分别是:insert、update、delete
public class Send { private final static String EXCHANGE_NAME = "direct_exchange_test"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明exchange,指定类型为direct channel.exchangeDeclare(EXCHANGE_NAME, "direct"); // 消息内容 String message = "商品新增了, id = 1001"; // 发送消息,而且指定routing key 为:insert ,表明新增商品 channel.basicPublish(EXCHANGE_NAME, "insert", null, message.getBytes()); System.out.println(" [商品服务:] Sent '" + message + "'"); channel.close(); connection.close(); } }
咱们此处假设消费者1只接收两种类型的消息:更新商品和删除商品。
public class Recv { private final static String QUEUE_NAME = "direct_exchange_queue_1"; private final static String EXCHANGE_NAME = "direct_exchange_test"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明队列 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 绑定队列到交换机,同时指定须要订阅的routing key。假设此处须要update和delete消息 channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "update"); channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "delete"); // 定义队列的消费者 DefaultConsumer consumer = new DefaultConsumer(channel) { // 获取消息,而且处理,这个方法相似事件监听,若是有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties, byte[] body) throws IOException { // body 即消息体 String msg = new String(body); System.out.println(" [消费者1] received : " + msg + "!"); } }; // 监听队列,自动ACK channel.basicConsume(QUEUE_NAME, true, consumer); } }
咱们此处假设消费者2接收全部类型的消息:新增商品,更新商品和删除商品。
public class Recv2 { private final static String QUEUE_NAME = "direct_exchange_queue_2"; private final static String EXCHANGE_NAME = "direct_exchange_test"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明队列 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 绑定队列到交换机,同时指定须要订阅的routing key。订阅 insert、update、delete channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "insert"); channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "update"); channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "delete"); // 定义队列的消费者 DefaultConsumer consumer = new DefaultConsumer(channel) { // 获取消息,而且处理,这个方法相似事件监听,若是有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties, byte[] body) throws IOException { // body 即消息体 String msg = new String(body); System.out.println(" [消费者2] received : " + msg + "!"); } }; // 监听队列,自动ACK channel.basicConsume(QUEUE_NAME, true, consumer); } }
咱们分别发送增、删、改的RoutingKey,发现结果:
Topic
类型的Exchange
与Direct
相比,都是能够根据RoutingKey
把消息路由到不一样的队列。只不过Topic
类型Exchange
可让队列在绑定Routing key
的时候使用通配符!
Routingkey
通常都是有一个或多个单词组成,多个单词之间以”.”分割,例如: item.insert
通配符规则:
#
:匹配一个或多个词
*
:匹配很少很多刚好1个词
举例:
audit.#
:可以匹配audit.irs.corporate
或者 audit.irs
audit.*
:只能匹配audit.irs
在这个例子中,咱们将发送全部描述动物的消息。消息将使用由三个字(两个点)组成的routing key发送。路由关键字中的第一个单词将描述速度,第二个颜色和第三个种类:“
咱们建立了三个绑定:Q1绑定了绑定键“* .orange.”,Q2绑定了“.*.rabbit”和“lazy.#”。
Q1匹配全部的橙色动物。
Q2匹配关于兔子以及懒惰动物的消息。
练习,生产者发送以下消息,会进入那个队列:
quick.orange.rabbit à Q1 Q2
lazy.orange.elephant à Q1 Q2
quick.orange.fox à Q1
lazy.pink.rabbit à Q2
quick.brown.fox à 不匹配任意队列,被丢弃
quick.orange.male.rabbit à
orange à
使用topic类型的Exchange,发送消息的routing key有3种: item.isnert
、item.update
、item.delete
:
public class Send { private final static String EXCHANGE_NAME = "topic_exchange_test"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明exchange,指定类型为topic channel.exchangeDeclare(EXCHANGE_NAME, "topic"); // 消息内容 String message = "新增商品 : id = 1001"; // 发送消息,而且指定routing key 为:insert ,表明新增商品 channel.basicPublish(EXCHANGE_NAME, "item.insert", null, message.getBytes()); System.out.println(" [商品服务:] Sent '" + message + "'"); channel.close(); connection.close(); } }
咱们此处假设消费者1只接收两种类型的消息:更新商品和删除商品
public class Recv { private final static String QUEUE_NAME = "topic_exchange_queue_1"; private final static String EXCHANGE_NAME = "topic_exchange_test"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明队列 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 绑定队列到交换机,同时指定须要订阅的routing key。须要 update、delete channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "item.update"); channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "item.delete"); // 定义队列的消费者 DefaultConsumer consumer = new DefaultConsumer(channel) { // 获取消息,而且处理,这个方法相似事件监听,若是有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties, byte[] body) throws IOException { // body 即消息体 String msg = new String(body); System.out.println(" [消费者1] received : " + msg + "!"); } }; // 监听队列,自动ACK channel.basicConsume(QUEUE_NAME, true, consumer); } }
咱们此处假设消费者2接收全部类型的消息:新增商品,更新商品和删除商品。
/** * 消费者2 */ public class Recv2 { private final static String QUEUE_NAME = "topic_exchange_queue_2"; private final static String EXCHANGE_NAME = "topic_exchange_test"; public static void main(String[] argv) throws Exception { // 获取到链接 Connection connection = ConnectionUtil.getConnection(); // 获取通道 Channel channel = connection.createChannel(); // 声明队列 channel.queueDeclare(QUEUE_NAME, false, false, false, null); // 绑定队列到交换机,同时指定须要订阅的routing key。订阅 insert、update、delete channel.queueBind(QUEUE_NAME, EXCHANGE_NAME, "item.*"); // 定义队列的消费者 DefaultConsumer consumer = new DefaultConsumer(channel) { // 获取消息,而且处理,这个方法相似事件监听,若是有消息的时候,会被自动调用 @Override public void handleDelivery(String consumerTag, Envelope envelope, BasicProperties properties, byte[] body) throws IOException { // body 即消息体 String msg = new String(body); System.out.println(" [消费者2] received : " + msg + "!"); } }; // 监听队列,自动ACK channel.basicConsume(QUEUE_NAME, true, consumer); } }
如何避免消息丢失?
1) 消费者的ACK机制。能够防止消费者丢失消息。
2) 可是,若是在消费者消费以前,MQ就宕机了,消息就没了。
是能够将消息进行持久化呢?
要将消息持久化,前提是:队列、Exchange都持久化
解决消息丢失?
幂等性(同一接口被重复执行,其结果一致)
添加AMQP的启动器:
<dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-amqp</artifactId> </dependency>
在application.yml
中添加RabbitMQ地址:
spring: rabbitmq: host: 192.168.56.101 username: leyou password: leyou virtual-host: /leyou
在SpringAmqp中,对消息的消费者进行了封装和抽象,一个普通的JavaBean中的普通方法,只要经过简单的注解,就能够成为一个消费者。
@Component public class Listener { @RabbitListener(bindings = @QueueBinding( value = @Queue(value = "spring.test.queue", durable = "true"), exchange = @Exchange( value = "spring.test.exchange", ignoreDeclarationExceptions = "true", type = ExchangeTypes.TOPIC ), key = {"#.#"})) public void listen(String msg){ System.out.println("接收到消息:" + msg); } }
@Componet
:类上的注解,注册到Spring容器@RabbitListener
:方法上的注解,声明这个方法是一个消费者方法,须要指定下面的属性:
bindings
:指定绑定关系,能够有多个。值是@QueueBinding
的数组。@QueueBinding
包含下面属性:
value
:这个消费者关联的队列。值是@Queue
,表明一个队列exchange
:队列所绑定的交换机,值是@Exchange
类型key
:队列和交换机绑定的RoutingKey
相似listen这样的方法在一个类中能够写多个,就表明多个消费者。
Spring最擅长的事情就是封装,把他人的框架进行封装和整合。
Spring为AMQP提供了统一的消息处理模板:AmqpTemplate,很是方便的发送消息,其发送方法:
红框圈起来的是比较经常使用的3个方法,分别是:
@RunWith(SpringRunner.class) @SpringBootTest(classes = Application.class) public class MqDemo { @Autowired private AmqpTemplate amqpTemplate; @Test public void testSend() throws InterruptedException { String msg = "hello, Spring boot amqp"; this.amqpTemplate.convertAndSend("spring.test.exchange","a.b", msg); // 等待10秒后再结束 Thread.sleep(10000); } }
运行后查看日志: