RocketMq 集群搭建 部署

时间  2019-12-12 标签 rocketmq 集群 搭建 部署

原文连接:https://blog.csdn.net/weixin_40533111/article/details/84451219 做者小太阳^_^，转载请注明出处，谢谢java

前言
本文基于最新版rocketmq 4.3.2搭建,2个节点,A节点部署A-m和B-s,B节点部署A-s和B-m
功能原理和集群可参考:中文文档 和roketmq学习 实战(三) 下篇:顺序消息和事务消息linux

目录
1.准备环境
2.开始搭建git

正文
1.准备环境
1.linux服务器2台(centos7)
2.maven(3.5以上)
3.jdk(本文使用的1.8(有人说使用系统自带的可能致使一些问题,未测试))
4.工具:使用的xshell+xftp
部署结构图以下:github

 


2.开始搭建
1.下载安装包并上传
从apache官网下载rocketmq二进制包安装包并上传到节点1(192.168.229.5),地址: http://rocketmq.apache.org/release_notes/release-notes-4.3.2/web

 


2.解压
解压并更改文件的目录为rocketmqspring

unzip rocketmq-all-4.3.2-bin-release.zip
shell

 


3.修改配置文件
rocketmq默认给出了三种建议配置模式
2m-2s-async(主从异步),----本文采用这种
2m-2s-sync(主从同步)
2m-noslave(仅master)apache

 

修改2m-2s-async下的配置文件
修改哪一个都行,只须要启动时指定配置文件便可,通常符合命名约束
注意:centos

autoCreateTopicEnable=true,建议线下开启测试,线上关闭
同一个机器上启动多个broker时,需使用不一样的broker配置文件来启动实例,
eg节点1启动一个a-m和b-s,使用broker-a.properties和broker-b-s.properties
listenPort默认为10911,当一个机器上启动多个broker示例时,需区分开端口
broker启动时,默认内存设置比较大,改为适合机器的,细节可看步骤6
当一个节点启动多个broker实例时,存储路径若是显示的设置,则须要指定不一样的storePath路径,(不设置的话,默认不一样)springboot

 

3.1修改broker-a.properties主要内容为以下:


#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，名字可重复,为了管理,每一个master起一个名字,他的slave同他,eg:Amaster叫broker-a,他的slave也叫broker-a
brokerName=broker-a
#0 表示 Master，>0 表示 Slave
brokerId=0
#nameServer地址，分号分割
namesrvAddr=192.168.229.5:9876;192.168.229.6:9876
#在发送消息时，自动建立服务器不存在的topic，默认建立的队列数
defaultTopicQueueNums=4
#是否容许 Broker 自动建立Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否容许 Broker 自动建立订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口,
listenPort=10911
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每一个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每一个文件默认存30W条，根据业务状况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store/broker-a
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/broker-a/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/broker-a/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/broker-a/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

3.2修改broker-b-s.properties主要内容为以下:


#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，名字可重复,为了管理,每一个master起一个名字,他的slave同他,eg:Amaster叫broker-a,他的slave也叫broker-a
brokerName=broker-b
#0 表示 Master，>0 表示 Slave
brokerId=1
#nameServer地址，分号分割
namesrvAddr=192.168.229.5:9876;192.168.229.6:9876
#在发送消息时，自动建立服务器不存在的topic，默认建立的队列数
defaultTopicQueueNums=4
#是否容许 Broker 自动建立Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否容许 Broker 自动建立订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口,
listenPort=10920
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每一个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每一个文件默认存30W条，根据业务状况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store/broker-b-s
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/broker-b-s/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/broker-b-s/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/broker-b-s/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

4.配置第二台机器(192.168.229.6)
本文使用的克隆虚拟机,可快速获取一个与原机器同样的机器,由于彻底同样,须要更改下mac地址,若是使用静态ip,改下网关的配置便可,手动从新搭建一台固然也能够
配置同上步,更改ip和broker具体信息便可
5.启动nameServer
上述配置文件中指定了commitLog,队列,日志等的存储路径,建立该文件夹
节点1执行:
mkdir -p /usr/local/rocketmq/store/broker-a /usr/local/rocketmq/store/broker-a/nsumequeue /usr/local/rocketmq/store/broker-a/commitlog /usr/local/rocketmq/store/broker-a/index /usr/local/rocketmq/logs /usr/local/rocketmq/store/broker-b-s /usr/local/rocketmq/store/broker-b-s/nsumequeue /usr/local/rocketmq/store/broker-b-s/commitlog /usr/local/rocketmq/store/broker-b-s/index
节点2执行:
mkdir -p /usr/local/rocketmq/store/broker-a-s /usr/local/rocketmq/store/broker-a-s/nsumequeue /usr/local/rocketmq/store/broker-a-s/commitlog /usr/local/rocketmq/store/broker-a-s/index /usr/local/rocketmq/logs /usr/local/rocketmq/store/broker-b /usr/local/rocketmq/store/broker-b/nsumequeue /usr/local/rocketmq/store/broker-b/commitlog /usr/local/rocketmq/store/broker-b/index

2.启动节点1的nameServer(192.168.229.5)

nohup sh /usr/local/rocketmq/bin/mqnamesrv >/usr/local/rocketmq/logs/mqnamesrv.log 2>&1 &
1
将日志文件输出到指定文件,再进行日志查看,jps 等进行java进程查看,结果符合预期

 

3. 启动节点2的nameServer(192.168.229.5)
步骤如节点1,启动成功


6.启动broker
启动节点1的broker-a的master,对应的配置文件broker-a.properties
启动多个实例时,指定对应的配置文件
nohup sh /usr/local/rocketmq/bin/mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a.properties > /usr/local/rocketmq/logs/broker-a.log 2>&1 &

默认配置的内存较大,由于部署的是虚拟机,改小些

vi /usr/local/rocketmq/bin/runbroker.sh

 

再次启动broker-a

 


启动节点2的broker-a-s
nohup sh /usr/local/rocketmq/bin/mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-a-s.properties > /usr/local/rocketmq/logs/broker-a-s.log 2>&1 &

启动节点2的broker-b
nohup sh /usr/local/rocketmq/bin/mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-b.properties > /usr/local/rocketmq/logs/broker-b.log 2>&1 &

 


启动节点1的broker-b-s
nohup sh /usr/local/rocketmq/bin/mqbroker -c /usr/local/rocketmq/conf/2m-2s-async/broker-b-s.properties > /usr/local/rocketmq/logs/broker-b-s.log 2>&1 &

 


查看集群的启动情况:四个节点,符合预期,至此,集群第一版搭建完毕

 

7.启动web管理界面
rocketmq提供多种管理方式,命令行和界面等,
apache提供一个开源的扩展项目: https://github.com/apache/rocketmq-externals 里面包含一个子项目rocketmq-console,配置下,打个包就能够用了

 


这是一个springboot项目,默认名称服务(rocketmq.config.namesrvAddr)为空,需改成本身的

 

2.使用maven打包
mvn clean package -Dmaven.test.skip=true

 


上传到服务器启动便可java -jar启动
java -jar rocketmq-console-ng-1.0.0.jar >/usr/local/rocketmq/logs/mq-console.log 2>&1 &
页面验证

 

至此搭建完毕

联系我们 沪ICP备13005482号-10