RocketMQ集群搭建,及RocketMQ-Dashboard部署(前RocketMQ-Console)

集群搭建

RocketMQ不支持单主机搭建主从结构集群,当从节点启动时,即使和主节点设置不同的监听端口,他也要去监听主节点端口,也就是说正常启动的从节点会监听四个端口。原因未知,现象后面会列举出来。

1. 准备JAVA环境,下载RocketMQ包

Rocket是由Java开发的一款消息中间件,所以我们需要先下载Java环境,才能正常运行。

yum install java-1.8.0-openjdk

如果显示找不到包,可以通过下面的文章配置自己CentOS版本和架构对应的阿里源

Centos替换yum阿里云源,epel源(最简单)https://blog.csdn.net/dxh9231028/article/details/140790971?spm=1001.2014.3001.5502准备好Java环境后,进入RocketMQ官网,点击右上位置的DownLoad按钮,进入下载页面。

右键点击想要下载的版本的二进制包,复制链接

进入主机终端,通过wget下载RocketMQ压缩包,并解压。 我使用的命令是下载5.3.0版本的RocketMQ,命令如下:

bash 复制代码
#进入根目录
cd /

#下载RocketMQ
wget https://dist.apache.org/repos/dist/release/rocketmq/5.3.0/rocketmq-all-5.3.0-bin-release.zip

#解压RocketMQ压缩包
unzip /rocketmq-all-5.3.0-bin-release.zip

#删除压缩包
rm -rf /rocketmq-all-5.3.0-bin-release.zip

#将解压缩的RocketMQ改名
mv /rocketmq-all-5.3.0-bin-release/ /rocketmq

2. 修改配置文件

进入rocketmq文件夹中,查看conf内容可以看到如下内容

bash 复制代码
cd /rocketmq/
ll ./conf/

其中,前面三个文件夹分别是两主两从同步同步数据集群,两主两从异步同步数据集群,以及两主无从集群,Rocket已经给了我们基本配置,我们这俩选择两主两从同步同步数据集群。

如果是虚拟机环境,可以在一个主机上将四个主机的配置都配置好,然后在克隆当前主机四份,修改ip即可。而如果真实环境下,则需要分别在不同主机配置。 修改命令及内容如下

bash 复制代码
#修改a主机的配置文件的命令
vim ./conf/2m-2s-async/broker-a.properties

#==============================配置内容如下==================================
#自带的配置
brokerClusterName=DefaultCluster
brokerName=broker-a
brokerId=0
deleteWhen=04
fileReservedTime=48
brokerRole=ASYNC_MASTER
flushDiskType=ASYNC_FLUSH
#手动添加的配置
namesrvAddr=192.168.166.21:9876;192.168.166.22:9876
bash 复制代码
#修改a从机的配置文件的命令
vim ./conf/2m-2s-async/broker-a-s.properties

#==============================配置内容如下==================================
#自带的配置
brokerClusterName=DefaultCluster
brokerName=broker-a
brokerId=1
deleteWhen=04
fileReservedTime=48
brokerRole=SLAVE
flushDiskType=ASYNC_FLUSH

#手动添加的配置
namesrvAddr=192.168.166.21:9876;192.168.166.22:9876
bash 复制代码
#修改b从机的配置文件的命令
vim ./conf/2m-2s-async/broker-b-s.properties

#==============================配置内容如下==================================
#自带的配置
brokerClusterName=DefaultCluster
brokerName=broker-b
brokerId=1
deleteWhen=04
fileReservedTime=48
brokerRole=SLAVE
flushDiskType=ASYNC_FLUSH]

#手动添加的配置
#listenPort和haListenPort默认为10911和10912,可以不用改,我是为了测试从节点会监听主节点端口
listenPort=10913
haListenPort=10914
namesrvAddr=192.168.166.21:9876;192.168.166.22:9876

可以看到,四个节点的配置都只需要添加namesrvAddr地址的集群即可,其他的配置都已经是配置好了的,其中brokerName实际上更像是一个组的概念,brokerName相同的节点之间会构成主从关系,而brokerId只需要在这个组内不重复即可。

每个节点默认监听10911和10912两个端口,可以不用指定,最后一个从节点我指定了,是为了测试文章开头提到的问题。

3. 修改启动脚本(根据内存大小可选)

Rocket启动脚本是bin目录下的mqbroker文件,脚本启动时会向jvm申请8G内存,不过在虚拟机环境下,通常不会有这么多内存,所以为了集群的正常启动,我们需要修改启动脚本中的内容,类似下面的这个指令:

bash 复制代码
JAVA_OPT="${JAVA_OPT} -server -Xms8g -Xmx8g"

mqbroker脚本内部还会执行runbroker.sh,上述指令存在于两个文件中的一个,大概率在runbroker.sh文件中,我们文件中找到类似的内容,修改为如下内容:

bash 复制代码
JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn512m"

生产环境下,如果内存足够,无需修改。

4. 启动集群

1. 启动nameServer集群

RocketMQ依赖nameServer处理集群元数据,所以我们要先讲配置中的nameServer集群启动,在配置的主机中执行如下命令,启动nameServer。

bash 复制代码
/rocketmq/bin/mqnamesrv

看到如下信息后证明nameServer节点启动成功

2. 启动RocketMQ集群

必须nameServer集群中节点全部启动后,我们在继续启动各个RocketMQ节点,在各个主机分别执行如下命令:

bash 复制代码
#启动a主节点
/rocketmq/bin/mqbroker -c /rocketmq/conf/2m-2s-async/broker-a.properties

#启动a从节点
/rocketmq/bin/mqbroker -c /rocketmq/conf/2m-2s-async/broker-a-s.properties

#启动b主节点
/rocketmq/bin/mqbroker -c /rocketmq/conf/2m-2s-async/broker-b.properties

#启动b从节点
/rocketmq/bin/mqbroker -c /rocketmq/conf/2m-2s-async/broker-b-s.properties

看到最后一行为类似如下内容证明启动成功

5. 验证从节点监听主节点端口问题

我们验证b从节点所在主机监听端口发现,其不仅监听自己配置的端口,还监听主节点所监听的端口。内容如下:

在这种情况,RocketMQ无法进行单主机搭建集群测试,因为从节点会多监听两个主节点的端口。

当主节点未启动时,从节点会多监听一个主节点的listenPort端口,也就是监听三个端口,而当主节点启动后,从节点会多监听一个主节点的haListenPort端口,也就是同事监听四个端口。

这和默认端口无关,因为更改主节点端口,从节点监听的端口也会改变,完全就是跟着主节点变,并且主节点不会监听从节点端口,这一现象很奇怪,不知道原因。

RocketMQ-Dashboard可视化界面部署

RocketMQ-Console是RocketMQ官方推出的一款RocketMQ的可视化工具,目前已经更名为RocketMQ-Dashboard,独立在一个git仓库,部署步骤如下:

1. 下载源码并打包

我们可以进入到RocketMQ-Dashboard的github网站,通过git命令拉取源码,或者直接下载压缩文件

修改项目中application.yml文件中的如下内容,配置nameServer集群的ip和端口:

java 复制代码
rocketmq:
  config:
    namesrvAddrs:
      - 192.168.166.21:9876
      - 192.168.166.22:9876

通过如下命令打包

bash 复制代码
mvn clean package -Dmaven.test.skip=true

我们在其项目的readme文件中也能看到其打包和运行指令

2. 启动jar包

将打包后的jar包传入服务器或虚拟机后,通过如下命令启动:

bash 复制代码
java -jar ./rocketmq-dashboard-1.0.1-SNAPSHOT.jar

看到如下内容证明启动成功

3. 验证RocketMQ-DashBoard和集群的部署

访问启动服务的地址的8080端口,进入可视化页面,点击集群,可以查看我们的全部集群节点信息。

相关推荐
箬敏伊儿3 分钟前
springboot项目中 前端浏览器访问时遇到跨域请求问题CORS怎么解决?has been blocked by CORS policy
java·前端·spring boot·后端·spring
Dylanioucn29 分钟前
【编程底层思考】什么是GC Roots
java·jvm
_晓夏_31 分钟前
【JVM 工具命令】JAVA程序线上问题诊断,JVM工具命令的使用,jstat, jstack,jmap命令的使用
java·开发语言·jvm·jvm命令工具·java程序线上问题定位命令·java程序问题故障排查命令·jvm线上问题故障排查
Ty_11061 小时前
深入理解Java虚拟机:Jvm总结-虚拟机字节码执行引擎
java·开发语言·jvm
蔚一1 小时前
Java设计模式—面向对象设计原则(一) ----->开闭原则OCP(完整详解,附有代码+案例)
java·后端·设计模式·intellij-idea·开闭原则
cesske1 小时前
java 学习从零到精通之历程
java
爱吃香蕉的猴哥1 小时前
Spring AOP
java·后端·spring
Sebastian Wang2 小时前
【学习归纳自我总结版】尚硅谷学习第一天
java·学习
青灯古佛初照2 小时前
EasyExcel 动态表头+表头合并
java·excel
goldfishsky2 小时前
Gson转换
java·开发语言