文章/答案/技术大牛

发布

社区首页 >专栏 >RocketMQ深入浅出-03-集群搭建

RocketMQ深入浅出-03-集群搭建

编程大道

发布于 2021-10-28 06:21:04

1.1K10

代码可运行

文章被收录于专栏：编程大道编程大道

运行总次数：0

代码可运行

3. RocketMQ集群搭建

3.1 各角色介绍

Producer：负责发送消息到消息队列；
Consumer：从消息队列获取消息进行消费；
Broker：暂时存储和传输消息的平台；
NameServer：管理Broker；
Topic：区分消息的种类；一个发送者可以发送消息给一个或者多个Topic；一个消息的接收者可以订阅一个或者多个Topic消息
Message Queue：相当于是Topic的分区；用于并行发送和接收消息

3.2 集群搭建方式

3.2.1 集群特点

NameServer是一个几乎无状态节点，可以进行集群部署，节点之间不进行信息同步。
Broker部署较为复杂，Broker分为Master与Slave，一个Master可以对应多个Slave，一个Slave只能对应一个Master，Master与Slave的对应关系通过指定相同的BrokerName来确定。Master和Slave的角色通过不同的BrokerId来定义，BrokerId为0表示Master，非0表示Slave。Master也可以集群部署，每个Broker与NameServer集群中的所有节点建立长连接，定时注册Topic信息到所有NameServer。
Producer与NameServer集群中的其中一个节点（随机选择）建立长连接，定期从NameServer取Topic路由信息，并向提供Topic服务的Maser建立长连接，且定时向Master发送心跳。Producer完全无状态，通常集群部署。
Consumer与NameServer集群中的其中一个节点（随机选择）建立长连接，定期从NameServer取Topic路由信息，并向提供Topic服务的Maser、Slave建立长连接，且定时向Master、Slave发送心跳。Conumer既可以从Master订阅消息，也可以从Slave订阅消息，订阅规则由Broker配置决定。

3.2.3 集群模式

集群部署模式指的是Broker的部署模式，大致可以分为以下四种

1）单Master模式

这种部署方式风险较大，一旦Broker重启或者宕机时，会导致整个服务不可用，影响Producer和Consumer的使用。一般用于本地测试，线上环境不推荐使用。

2）多Master模式

这种模式指的是在集群中的所有Broker节点，都是Master的角色，没用Slave的角色。例如集群中有2个Master或者3个Master，这种模式的优缺也非常的明显：

优点：配置简单，单个Master宕机或重启，对client端无影响，在磁盘配置为RAID10时，即使机器宕机不可恢复情况下，由于RAID10磁盘非常可靠，消息也不会丢失（异步刷盘丢失少量消息，同步刷盘一条不丢），性能最高；

缺点：其中一台或几台机器宕机期间，这些机器上未被消费的消息在机器恢复之前不可被消费，消息实时性会受到影响。并且如果多数机器宕机，剩下正常运行的机器压力将会骤增。

3）多Master多Slave模式（异步）

这种模式指的是，多个Master，每个Master配置一个Slave，有多对Master-Slave，HA采用异步复制方式，即消息写入Master即返回Producer成功地ACK，然后主备之间采用异步地方式将消息同步到Slave，这种异步复制的方式会导致主备之间有短暂消息延迟（毫秒级），这种模式的优缺点总结如下：

优点：即使磁盘损坏，消息丢失的非常少，且消息实时性不会受影响。同时Master宕机后，消费者仍然可以从Slave消费，而且此过程对应用透明，不需要人工干预，性能同多Master模式几乎一样，但是不会进行自动Master转移，需要人工干预，即写消息会受影响；

缺点：Master宕机，磁盘损坏情况下会丢失少量消息。

4）多Master多Slave模式（同步）

这模式和第种方式很类似，也是多个Master，每个Master配置一个Slave，有多对Master-Slave，不同的是它的HA采用的是同步双写方式，即只有主备都写成功（主从同步复制），才向Producer返回成功ACK，这种模式的优缺点如下：

优点：数据与服务都无单点故障，Master宕机情况下，消息无延迟，服务可用性与数据可用性都非常高，即保证了非常高的可靠性；

缺点：因为是同步双写，所以不可避免的会导致性能比第三种模式略低（大约低10%左右），发送单个消息的RT会略高，且目前版本在主节点宕机后，备用节点不能自动切换为主节点，需要人为干预。

3.3 双主双从集群搭建

3.3.1 总体架构

消息高可用采用2m-2s（同步双写）方式

3.3.2 集群工作流程

1.首先启动NameServer，NameServer起来后监听端口，等待Broker、Proucer、Consumer连上来，Broker连上后将自己的IP端口、Topic信息等注册进来，Producer和Consumer连上后取这些信息。NameServer相当于一个路由控制中心。

2.然后将Broker启动，它跟所有的NameServer保持长连接，定时发送心跳包。心跳包中包含当前Broker信息(IP+端口等)以及存储所有Topic信息。注册成功后，NameServer集群中就保存了Topic跟Broker的映射关系。

3.NameServer和Broker都启动后，就是收发消息了。收发消息前，需先创建Topic，创建Topic时需要指定该Topic要存储在哪些Broker上，也可以在发送消息时自动创建Topic（自动创建Topic在线上环境不建议开启）。

4.Producer发送消息，启动时先跟NameServer集群中的其中一台建立长连接，并从NameServer中获取当前发送的Topic存在哪些Broker上，轮询从队列列表中选择一个队列，然后与队列所在的Broker建立长连接从而向Broker发消息。

5.Consumer跟Producer类似，跟其中一台NameServer建立长连接，获取当前订阅Topic存在哪些Broker上，然后直接跟Broker建立连接通道，开始消费消息。

3.3.3 服务器环境

3.3.4 Host添加信息

vim /etc/hosts

配置如下:

# nameserver 
192.168.25.135 rocketmq-nameserver1
192.168.25.138 rocketmq-nameserver2 
# broker 
192.168.25.135 rocketmq-master1 
192.168.25.135 rocketmq-slave2 
192.168.25.138 rocketmq-master2 
192.168.25.138 rocketmq-slave1

配置完成后, 重启网卡

systemctl restart network

3.3.5 防火墙配置

宿主机需要远程访问虚拟机的rocketmq服务和web服务，需要开放相关的端口号，简单粗暴的方式是直接关闭防火墙

# 关闭防火墙
systemctl stop firewalld.service 
# 查看防火墙的状态 
firewall-cmd --state 
# 禁止firewall开机启动 
systemctl disable firewalld.service

或者为了安全，只开放特定的端口号，RocketMQ默认使用3个端口：9876 、10911 、11011 。如果防火墙没有关闭的话，那么防火墙就必须开放这些端口：

lnameserver 默认使用 9876 端口
lmaster 默认使用 10911 端口
lslave 默认使用11011 端口

执行以下命令：

firewall-cmd --remove-port=9876/tcp --permanent 
# 开放master默认端口 
firewall-cmd --remove-port=10911/tcp --permanent 
# 开放slave默认端口 (当前集群模式可不开启) 
firewall-cmd --remove-port=11011/tcp --permanent 
# 重启防火墙 
firewall-cmd --reload

3.3.6 环境变量配置

vim /etc/profile

在profile文件的末尾加入如下命令

#set rocketmq
ROCKETMQ_HOME=/usr/local/rocketmq/rocketmq-all-4.4.0-bin-release
PATH=$PATH:$ROCKETMQ_HOME/bin 
export ROCKETMQ_HOME PATH

输入:wq! 保存并退出，并使得配置立刻生效：

source /etc/profile

3.3.7 创建消息存储路径

mkdir /usr/local/rocketmq/store
mkdir /usr/local/rocketmq/store/commitlog 
mkdir /usr/local/rocketmq/store/consumequeue 
mkdir /usr/local/rocketmq/store/index

3.3.8 broker配置文件

1）master1

服务器：192.168.25.135

vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-a.properties

修改配置如下：


#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master，>0 表示 Slave
brokerId=0
#nameServer地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

2）slave2

服务器：192.168.25.135

vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-b-s.properties

修改配置如下：


#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master，>0 表示 Slave
brokerId=1
#nameServer地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

3）master2

服务器：192.168.25.138

vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-b.properties

修改配置如下：


#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master，>0 表示 Slave
brokerId=0
#nameServer地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

4）slave1

服务器：192.168.25.138

vi /usr/soft/rocketmq/conf/2m-2s-sync/broker-a-s.properties

修改配置如下：


#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字，注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master，>0 表示 Slave
brokerId=1
#nameServer地址，分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时，自动创建服务器不存在的topic，默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic，建议线下开启，线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组，建议线下开启，线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点，默认凌晨 4点
deleteWhen=04
#文件保留时间，默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条，根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

3.3.9 修改启动脚本文件

1）runbroker.sh

vi /usr/local/rocketmq/bin/runbroker.sh

需要根据内存大小进行适当的对JVM参数进行调整：

#=================================================== 
# 开发环境配置 JVM Configuration 
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m"

2）runserver.sh

vim /usr/local/rocketmq/bin/runserver.sh

JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

3.3.10 服务启动

1）启动NameServe集群

分别在192.168.25.135和192.168.25.138启动NameServer

cd /usr/local/rocketmq/bin
nohup sh mqnamesrv&

2）启动Broker集群

在192.168.25.135上启动master1和slave2

master1：

cd /usr/local/rocketmq/bin
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-syncbroker-a.properties&

slave2：

cd /usr/local/rocketmq/bin
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-sync/broker-b-s.properties&

l在192.168.25.138上启动master2和slave2

master2

cd /usr/local/rocketmq/bin
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-sync/broker-b.properties&

slave1

cd /usr/local/rocketmq/bin
nohup sh mqbroker -c /usr/local/rocketmq/conf/2m-2s-sync/broker-a-s.properties&

3.3.11 查看进程状态

启动后通过JPS查看启动进程

3.3.12 查看日志

# 查看nameServer日志
tail -500f ~/logs/rocketmqlogs/namesrv.log 
# 查看broker日志 
tail -500f ~/logs/rocketmqlogs/broker.log

3.4 mqadmin管理工具

3.4.1 使用方式

进入RocketMQ安装位置，在bin目录下执行./mqadmin {command} {args}

3.4.2 命令介绍

3.4.3 注意事项

几乎所有命令都需要配置-n表示NameServer地址，格式为ip:port

几乎所有命令都可以通过-h获取帮助

如果既有Broker地址（-b）配置项又有clusterName（-c）配置项，则优先以Broker地址执行命令；如果不配置Broker地址，则对集群中所有主机执行命令

3.5 集群监控平台搭建

3.5.1 概述

RocketMQ有一个对其扩展的开源项目incubator-rocketmq-externals，这个项目中有一个子模块叫rocketmq-console，这个便是管理控制台项目了，先将incubator-rocketmq-externals拉到本地，因为我们需要自己对rocketmq-console进行编译打包运行。

3.5.2 下载并编译打包

git clone https://github.com/apache/rocketmq-externals
cd rocketmq-console
mvn clean package -Dmaven.test.skip=true

注意：打包前在rocketmq-console中配置namesrv集群地址：

rocketmq.config.namesrvAddr=192.168.25.135:9876;192.168.25.138:9876

启动rocketmq-console：

java -jar rocketmq-console-ng-1.0.0.jar

启动成功后，我们就可以通过浏览器访问http://localhost:8080进入控制台界面了，如下图：

集群状态：

本文参与腾讯云自媒体同步曝光计划，分享自微信公众号。

原始发表：2021-10-11，如有侵权请联系 cloudcommunity@tencent.com 删除

kafka

消息队列 CMQ 版

apache

本文分享自 BiggerBoy 微信公众号，前往查看

如有侵权，请联系 cloudcommunity@tencent.com 删除。

本文参与腾讯云自媒体同步曝光计划，欢迎热爱写作的你一起参与！

kafka

消息队列 CMQ 版

apache

登录后参与评论

1 条评论

热度

最新

用户5652487

2022-03-23

有个问题，主从都在一个机器上时候，storePath不能冲突！

回复回复点赞举报

编辑精选文章

换一批

万字详解高可用架构设计

2242

Go 开发者必备：Protocol Buffers 入门指南

亿级月活的社交 APP，陌陌如何做到 3 分钟定位故障？

1231

60页PPT全解：DeepSeek系列论文技术要点整理

2225

大厂生产环境的RocketMQ都是这样部署的

apache bash bash 指令 tcp/ip

昨天我们已经学习了RocketMQ的一些基本概念，架构设计和各个角色的功能。今天我们来聊聊RocketMQ的集群部署问题，关于RocketMQ的几种集群模式，你都知道吗，或者你们用的是哪一种集群模式呢？

故里

2020/11/25

1K0

RocketMQ的集群部署以及可视化监控界面

apache 存储分布式

RocketMQ是一个轻量级、高可用、低延时的消息中间件，能实现消息的存储，消息的失败重试，批量消息处理，延时消息处理等特性，在各种消息中间件中表现优异。

Dream城堡

2022/01/07

8140

RocketMQ 零基础集群及控制台部署

apache bash bash 指令 ide

一、首先准备linux环境使用了两个虚拟机系统版本为Centos 7 ip地址固定为192.168.194.128 192.168.194.129

heasy3

2020/08/02

1.8K0

RocketMQ双主双从同步集群部署

存储 rocketmq 部署集群同步

下载地址： https://github.com/apache/rocketmq-dashboard

互联网-小阿宇

2023/10/17

7600

RocketMQ 环境搭建

apache jdk github https git

RocketMQ 环境搭建一. 开发环境操作系统：CentOS7 JDK1.8 二. 安装JDK 下载jdk-8u181-linux-x64.tar.gz包到/usr/local下解压 tar -zxvf jdk-8u181-linux-x64.tar.gz 重命名 mv jdk1.8.0_181/ ./jdk1.8 配置Java环境变量修改配置文件 /etc/profile vi /etc/profile 在文件末尾增加Java环境变量配置 export JAVA

张申傲

2020/09/03

8860

「玩转Lighthouse」Linux（CentOS7）配置RocketMQ集群

linux 轻量应用服务器网站建设深度学习

RocketMQ是阿里巴巴开源的分布式消息中间件。支持事务消息、顺序消息、批量消息、定时消息、消息回溯等。它里面有几个区别于标准消息中件间的概念，如Group、Topic、Queue等。系统组成则由Producer、Consumer、Broker、NameServer等。

Balliol Chen

2022/04/21

2K0

「玩转Lighthouse」Linux（CentOS7）配置RocketMQ集群

搭了一个RocketMQ高可用集群，同事直呼哇塞！

存储 rocketmq 高可用集群系统

RocketMQ作为阿里系的一款开源的MQ中间件，经历了双十一的高并发场景的消息流转，能够处理万亿级别的消息。

码猿技术专栏

2023/05/01

8930

RocketMQ本地集群配置

文件存储存储 rocketmq 集群配置

conf目录下新建一个配置文件conf/namesrv.properties，文件内容为：

青山师

2023/05/05

5000

手把手教你搭建 RocketMQ 高可用集群！

apache tcp/ip

RocketMQ是一个由阿里巴巴开源的消息中间件， 2012年开源，2017年成为apache顶级项目。RocketMQ在阿里内部应用是非常广泛的，阿里内部的几千个应用都运行在RocketMQ之上，双十一期间需要处理亿万级别的消息，TPS可以达到几十万。目前支持Java、C/C++，Python、Go四种语言访问。

民工哥

2021/03/15

9090

Centos6下RocketMQ集群部署记录

apache 开源分布式

一、RocketMQ基础知识介绍 Apache RocketMQ是阿里开源的一款高性能、高吞吐量、队列模型的消息中间件的分布式消息中间件。RocketMQ具有以下特点：上图是一个典型的消息中间件收发

洗尽了浮华

2018/06/14

2.3K0

【RocketMq实战第三篇】-RocketMq双机集群

apache tcp/ip javascript node.js

前言由于我的电脑内存不够大，所以集群方式没办法做了，rocketmq很吃内存。本文我会把书上资料的步骤给大家贴出来。如有疑问请直接联系我，联系方式在最下方。

胖虎

2019/06/26

4K0

034. RocketMQ 架构方案及角色详解

apache

1. RocketMQ 角色介绍 ---- 四个角色 Producer：消息生产者 Consumer：消费者 Broker：MQ 服务，负责接收、分发消息 NameServer：负责 MQ 服务之间的

山海散人

2021/03/03

3810

搭建 RocketMQ 集群

apache bash bash 指令

单机模式, 即只有一个Broker, 如果Broker宕机了, 会导致RocketMQ服务不可用, 不推荐使用.

张乘辉

2019/11/11

9730

【非docker-compose】docker下安装rocketmq

apache tcp/ip

docker下按照rocketmq。非compose安装。一步一步安装一：编写broker.conf文件文件位置：/opt/rocketmq/conf/ 下面这个是复杂版本。 # 所属集群名字 brokerClusterName=DefaultCluster # broker 名字，注意此处不同的配置文件填写的不一样，如果在 broker-a.properties 使用: broker-a, # 在 broker-b.properties 使用: broker-b brokerName=broker-

凯哥Java

2022/12/16

5360

Rocketmq两主两从集群部署

机器学习神经网络深度学习人工智能

环境准备准备两台服务器或者虚拟机服务器一：192.***.*.31 服务器二：192.***.*.32 部署模式： 2M-2S-SYNC(两主两从同步写) 相关安装包存储路径：/root/svr/

茶半香初

2021/11/26

7910

RocketMQ入门（二）

rocketmq 2023腾讯·技术创作特训营第三期

这种方式风险较大，一旦Broker重启或者宕机时，会导致整个服务不可用。不建议线上环境使用,可以用于本地测试。

传说之下的花儿

2023/11/28

4850

Apache RocketMQ 集群搭建（两主两从）

https apache bash bash 指令网络安全

Apache RocketMQ之JMS基本概念及使用：https://www.jianshu.com/p/d2e3fd77c4f4 Apache RocketMQ 基础概念及架构解析：https://www.jianshu.com/p/95ab928960b3 Apache RocketMQ 的基础特性介绍：https://www.jianshu.com/p/570680b32590 Apache RocketMQ 集群搭建（两主两从）：https://www.jianshu.com/p/b090138cf52c Apache RocketMQ 刷盘策略与复制策略: https://www.jianshu.com/p/d66b381428bb

zoro

2019/04/11

8K0

RocketMQ主从集群模式搭建

apache node.js

我这里事先在两台机器上安装好了RocketMQ，关于RocketMQ的安装可以参考如下文章：

端碗吹水

2020/12/01

4670

RocketMQ的集群

apache bash bash 指令 javascript node.js

刚才的演示中，我们已经体验到了RocketMQ是如何工作的。这样，我们回头看RocketMQ的集群架构，就能够有更全面的理解了。

Java廖志伟

2022/03/07

7570

【分布式事务】基于RocketMQ搭建生产级消息集群？

apache 分布式微服务存储

目前很多互联网公司的系统都在朝着微服务化、分布式化系统的方向在演进，这带来了很多好处，也带来了一些棘手的问题，其中最棘手的莫过于数据一致性问题了。早期我们的软件功能都在一个进程中，数据的一致性可以通过数据库本地事务来加以控制。而在分布式架构下，原本比较完整的本地功能可能被拆分成了多个独立的服务进程。与之前相比，同样一笔业务订单此时可能会经历很多服务模块的处理，调用链路会变得很长，例如某电商平台，一笔购物订单可能会经过：商品中心、订单、支付、物流等多个服务的调用，而这可能还只是比较粗粒度的划分，某些比较大型的服务，如支付系统，可能本身又会按照分布式的架构拆分成多个微服务，所以整个业务的调用链路会变得更加冗长。而这不可避免的就会产生数据不一致的问题，为了实现业务上的最终一致性，功能比较独立的系统，如订单系统与支付系统就会通过额外的业务逻辑设计来确保彼此之间的最终一致性，如订单系统会通过订单的支付状态来保持与支付系统的数据一致，而支付系统则会提供支付状态查询接口，或者实现最大可能的主动回调功能，来确保二者数据状态的最终一致。此外可能还会通过日终的订单对账来发现不一致的数据，并进行数据校正。但是这些都只是业务逻辑上的手段，对于某些内部服务之间的调用，如果可以通过分布式事务解决方案来加以保证的话，其实是可以大大减少一些不必要的复杂业务逻辑的。实际上，目前市面上能够提供分布式事务解决方案、又比较成熟的开源技术框架比较少，而RocketMQ在4.3.0之后的版本提供了事务消息的功能，因为RocketMQ本身拥有比较多的生产实践的关系，所以这一功能备受关注，作者所在的公司也有一些实践。以此为契机，为了给大家关于分布式事务一个比较清晰的认识，这里我打算以RocketMQ的事务消息功能为示例，来相对全面的总结下分布式事务的内容。本篇文章的主要内容，是先介绍如何搭建一套生产级的RocketMQ消息集群，以此准备下试验环境。在下一篇《【分布式事务】基于RocketMQ的分布式事务实现》会整体介绍下分布式事务的概念和原理，并做一些代码级的试验。

用户5927304

2019/07/31

7960

RocketMQ深入浅出-03-集群搭建

RocketMQ深入浅出-03-集群搭建

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐