一、场景描述
昨天在博客《客户端订阅服务端事件的实现方法》中提出了利用websocket、服务端EventEmitter和客户端mitt实现客户端订阅服务端事件,大大简化了客户端对服务端数据实时响应的逻辑。上述方案适用于单服务节点的情形。
对于由服务集群支撑的微服务架构,websocket提供的点对点通信已无法满足前端订阅后端集群事件的需求,升级方案是使用基于消息总线的通信方式。
二、几种消息总线适用性比较
常用的消息总线包括Kafka、Redis和基于MQTT协议实现的EMQX。
Kafka和MQTT都是从发布/订阅系统演化而来,但发展侧重点不同。Kafka通过分布式架构提供了海量数据流的存储,并保证数据流顺序,它的设计目标是支持数据发布、订阅和存储。而MQTT用于网络中传输小型数据包,其设计目的是实现简单、可靠的设备间通信。
而Redis是从内存数据库系统演化而来,发布/订阅功能是把消息保存在内存中。与Kafka相比,其只能提供半持久化;与MQTT相比,其通信效率较低。
由于应用场景没有对消息持久化的需求,且考虑到产业大脑平台未来会接入工业互联网,使用MQTT协议来搭建事件总线更利于平台在工业互联网环境下的扩展。
三、MQTT简介
几年前,本人曾写过MQTT简介。本文摘抄其中重要概念。
(一)MQTT协议
MQTT(Message Queuing Telemetry Transport,消息队列遥测传输协议),是基于"订阅/发布"模式的轻量级通信协议,该协议基于TCP/IP,能以极低的带宽为海量(百万级)跨域设备提供可靠的消息服务,因此在物联网、小型移动终端、边缘计算方面有广泛应用。
所谓可靠的消息传输,体现为可配置消息的服务质量(QoS),有三种服务质量可选:
- 至多一次:
消息发布完全依赖底层TCP/IP网络。会发生消息丢失或重复。应用场景如环境传感器的数据采集,丢失一次记录无所谓,因为不久后还会有第二次发送。 - 至少一次:
确保消息送达订阅者,但消息可能重复,适用于幂等性操作。 - 只有一次:
最严格的消息服务质量,确保消息到达且仅到达一次订阅者。应用场景如计费系统等。
MQTT协议中存在三种身份:消息总线(Broker)、发布者(Publish)和订阅者(Subscribe),其中消息总线属于服务器,后两者都属于客户端。发布者和订阅者可以是各种物联网设备和小型终端,消息发布者可以同时也是消息订阅者,如下图所示。
MQTT传输的消息分为:主题(Topic)和负载(payload)两部分:
- Topic,可以理解为消息的类型,订阅者订阅(Subscribe)后,就会收到该主题的消息内容(payload);
- payload,可以理解为消息的内容,是指订阅者具体要使用的内容。
订阅消息时,可以在订阅表达式中使用通配符筛选器对主题进行筛选,可同时订阅所匹配的多个主题。
MQTT协议中主要有以下5个方法:
- connect:客户端建立与服务器的连接
- disconnect:等待客户端完成工作后,端口与总线的会话
- subscribe:客户端向消息总线注册订阅主题
- unsubscribe:客户端等待消息总线取消所注册的订阅
- publish:客户端向消息总线发送某主题的消息
(二)开源消息总线EMQX
EMQX(Erlang/Enterprise/Elastic MQTT Broker),是基于Erlang语言开发的开源物联网MQTT消息总线。其是一款由前华为员工开发的开源软件,软件主页为https://www.emqx.io/。可根据操作系统类别选择不同版本下载安装,或通过docker部署。
软件安装后,通过 emqx start
以后台方式启动。启动后将会开放两个端口:
- 18083端口为控制台端口,可通过浏览器访问该端口,首次登录的用户名和密码为admin和public。控制台提供了总线监控、用户权限管理、在线客户端订阅/发布等功能。
- 8083端口为通信端口,MQTT客户端可通过该端口与EMQX消息总线通信。
(三)MQTT.js客户端
MQTT.js是MQTT客户端Nodejs SDK,可在浏览器(ES模块)和Node.js环境(CommonJS模块)下使用,前者可通过MQTT over WebSocket使用,后者既可以通过MQTT over WebSocket使用,也可以直接使用MQTT。区别仅仅是连接参数的协议头不同。
1. 安装和帮助文件
bash
$ pnpm i mqtt -S #安装
$ npx mqtt help #帮助
MQTT.js command line interface, available commands are:
* publish publish a message to the broker
* subscribe subscribe for updates from the broker
* version the current MQTT.js version
* help help about commands
Launch 'mqtt help [command]' to know more about the commands.
2. 使用方法
js
// const mqtt = require('mqtt') //ES模块
import mqtt from 'mqtt' //CommonJS模块
// 连接选项
const options = {
clean: true, // true: 清除会话, false: 保留会话
connectTimeout: 4000, // 超时时间
// 认证信息
clientId: 'user_id', // 要保证唯一性
// 若在控制台配置了用户名和密码:
// username: 'xxx',
// password: 'xxx',
}
// 连接字符串, 通过协议指定使用的连接方式
// ws 未加密 WebSocket 连接
// wss 加密 WebSocket 连接
// mqtt 未加密 TCP 连接
// mqtts 加密 TCP 连接
// wxs 微信小程序连接
// alis 支付宝小程序连接
const connectUrl = 'ws://localhost:8084/mqtt'
const client = mqtt.connect(connectUrl, options)
client.on('reconnect', error => {
console.error('正在重连:', error)
})
client.on('error', error => {
console.error('连接失败:', error)
})
//收到消息
client.on('message', (topic, message) => {
console.log('收到消息:', topic, message.toString()) //message是二进制流,需要转换成字符串
})
//订阅主题
const topic='/user_id/#'
const qos=0 //0:最多交付1次;1:至少交付1次;2:只交付1次
client.subscribe(topic, qos, error=>{ //订阅user_id主题下所有消息
if(error){
console.error('订阅主题失败:', error)
return
}
console.log('订阅成功')
})
//发布消息
client.publish('user_id/a',JSON.stringify({a:123}),qos,error=>{
if(error){
console.error('发布消息失败:', error)
}
})
//取消订阅
client.unsubscrib(topic, qos, error=>{
if(error){
console.error('取消订阅失败', error)
return
}
})
//断开连接
if(client.connected){
try{
client.end(false,()=>{
console.log('成功断开连接')
})catch(error){
console.error('断开连接失败:', error)
}
}
}
(四)安全性
1. 排它订阅
排它订阅是 EMQX 支持的 MQTT 扩展功能。排它订阅允许对主题进行互斥订阅,一个主题同一时刻仅被允许存在一个订阅者,在当前订阅者未取消订阅前,其他订阅者都将无法订阅对应主题。
2. JWT认证
系统整体采用JWT认证方式,通过一台认证服务器颁发JWT Token。MQTT客户端访问EMQX总线时,携带由认证服务器颁发的JWT Token。