FluxMQ:新一代的高性能MQTT代理服务器

FluxMQ:新一代的高性能MQTT代理服务器

前言

FLuxMQ是一款基于java开发,支持无限设备连接的云原生分布式物联网接入平台。FluxMQ基于Netty开发,底层采用Reactor3反应堆模型,具备低延迟,高吞吐量,千万、亿级别设备连接;方便企业快速构建其物联网平台与应用。

FluxMQ官网:https://www.fluxmq.com

FluxMQ演示系统:http://demo.fluxmq.com/

丰富的功能

通配符

通配符 解释
# 可以匹配零个或多个层级的主题。只能出现在主题末尾。
+ 可以匹配一个层级的主题。可以出现在主题的任何位置。

FluxMQ支持两种通配符:+和#。+表示匹配一个层级,#表示匹配零个或多个层级。下面是一些例子:

  • 井号 #:

井号通配符表示可以匹配零个或多个层级的主题。它只能出现在主题的末尾,例如 home/living_room/#。

用法示例:如果一个订阅者订阅了主题 home/living_room/#,那么它将接收到诸如 home/living_room/light、home/living_room/temperature 等所有以 home/living_room/ 开头的消息。

  • 加号 +:

加号通配符表示可以匹配一个层级的主题。它可以出现在主题的任何位置,例如 home/+/light。

用法示例:如果一个订阅者订阅了主题 home/+/light,那么它将接收到诸如 home/living_room/light、home/kitchen/light 等层级为 home/ 下,且以 /light 结尾的消息。

共享订阅

FluxMQ支持共享订阅,单个topic共享订阅集群支持10W/s吞吐量,下面吗我们介绍下共享订阅的使用方式:

如何使用共享订阅
  • 通过Topic的订阅规则,可以指定订阅组名称,从而实现共享订阅。例如,订阅规则为$share/topic1,则订阅组名称为DEFAULT,订阅主题为topic1
  • 分组共享订阅是指将订阅组的消息分发均匀地分发给订阅组成员。在分组共享订阅中,订阅同一主题的客户机依次接收此主题下的消息。同一消息不会发送给多个订阅客户端,从而实现多个订阅客户端之间的负载均衡。订阅的规则为$queue/group1/topic1,则订阅组名称为group1,订阅主题为topic1

规则引擎

FluxMQ Rule Engine (以下简称规则引擎) 用于配置FluxMQ 消息流与设备事件的处理、响应规则。规则引擎不仅提供了清晰、灵活的 "配置式" 的业务集成方案,简化了业务开发流程,提升用户易用性,降低业务系统与 FluxMQ 的耦合度;也为 FluxMQ 的私有功能定制提供了一个更优秀的基础架构。

FluxMQ 在 消息发布或事件触发 时将触发规则引擎,满足触发条件的规则将执行各自的 SQL 语句筛选并处理消息和事件的上下文信息;

Sql支持

规则的 SQL 语句基本格式为:

plsql 复制代码
SELECT <字段名> FROM <事件类型> [WHERE <条件>]
  • FROM 子句将规则挂载到某个事件类型上,可多选
  • SELECT 子句用于对数据进行变换,并选择出需要的字段
  • WHERE 子句用于对 SELECT 选择出来的某个字段施加条件过滤
plsql 复制代码
## SELECT 语句用于决定最终的输出结果里的字段。比如:
## 下面 SQL 的输出结果中将只有两个字段 "a" 和 "b":

SELECT a, b FROM "$EVENT.PUBLISH"

# 选取 username 为 'abc' 的建立连接消息,输出结果为所有可用字段:

SELECT * FROM "$EVENT.CONNECT" WHERE auth.username = 'abc'

## 选取 clientId 为 'abc' 的终端发来的消息,输出结果将只有 cid 一个字段。

SELECT clientId as cid FROM "$EVENT.PUBLISH" WHERE clientId = 'abc'

## 选取 qos 为 '1' 的发布消息,输出结果将只有 cid 一个字段。
## 注意虽然 SELECT 语句中只选取了 cid 一个字段,所有消息发布事件中的可用字段 (比如 clientId、topic 等) 仍然可以在 WHERE 语句中使用:

SELECT clientId as cid FROM "$EVENT.PUBLISH" WHERE qos = 1

## 但下面这个 SQL 语句就不能工作了,因为变量 xyz 不是消息发布事件中的可用字段:

SELECT clientId as cid FROM "$EVENT.PUBLISH" WHERE xyz = 'abc'

比较符号

函数名 函数作用 返回值
> 大于 true/false
< 小于 true/false
<= 小于等于 true/false
>= 大于等于 true/false
<> 不等于 true/false
!= 不等于 true/false
= 比较两者是否完全相等。可用于比较变量和主题 true/false
=~ 比较主题(topic)是否能够匹配到主题过滤器(topic filter)。只能用于主题匹配 true/false

SQL 语句示例

基本语法举例

  • 从 topic 为 "t/a" 的消息中提取所有字段:
plsql 复制代码
SELECT * FROM "$EVENT.PUBLISH" WHERE topic = 't/a'
  • 从 topic 为 "t/a" "t/b" 的消息中提取所有字段:
plsql 复制代码
SELECT * FROM "$EVENT.PUBLISH" WHERE topic = 't/a' or topic = 't/b'
  • 从 topic 能够匹配到 't/#' 的消息中提取所有字段。
plsql 复制代码
SELECT * FROM "$EVENT.PUBLISH" WHERE topic =~ "t/#"
  • 从 topic 能够匹配到 't/#' 的消息中提取 qos、messageId 和 clientId 字段:
plsql 复制代码
SELECT qos, messageId, clientId FROM "$EVENT.PUBLISH" WHERE topic =~ "t/#"
  • 从 建立连接 消息中提取 username 字段,并且筛选条件为 username = 'fluxmq':
plsql 复制代码
select auth.username as username from "$EVENT.CONNECT" where auth.username = 'fluxmq'
  • 从任意 topic 的 JSON 消息体(payload) 中 提取 x 字段,并创建别名 x 以便在 WHERE 子句中使用。WHERE 子句限定条件为 x = 1。下面这个 SQL 语句可以匹配到消息体 {"x": 1},但不能匹配到消息体 {"x": 2}:
plsql 复制代码
SELECT payload.x as x FROM "$EVENT.PUBLISH" WHERE payload.x = 1
  • 类似于上面的 SQL 语句,但 **嵌套地提取 **消息体中的数据,下面的 SQL 语句可以匹配到 JSON 消息体 {"x": {"y": 1}}:
plsql 复制代码
SELECT payload FROM "$EVENT.PUBLISH" WHERE payload.x.y = 1
  • 在 clientId = 'c1' 连接成功时,提取其来源 IP 地址:
plsql 复制代码
SELECT clientIp FROM "$EVENT.CONNECT" WHERE clientId = 'c1'
  • 筛选所有订阅 't/#' 主题 订阅级别为 QoS 1 的 clientId:
plsql 复制代码
SELECT clientId FROM "$EVENT.SUBSCRIBE" WHERE topic =~ 't/#' and qos = 1
  • 筛选所有订阅主题能匹配到 't/#' 且订阅级别为 QoS 1 的 clientId。注意与上例不同的是,这里用的是主题匹配操作符 '=~',所以会匹配订阅 't' 或 't/+/a' 的订阅事件:
plsql 复制代码
SELECT clientId FROM "$EVENT.SUBSCRIBE" WHERE topic =~ 't/#' and qos = 1
  • 从topic包含"fluxmq"字符的消息中提取所有字段,使用 'like' 语法,包含的字符用%包裹:
plsql 复制代码
SELECT * FROM "$EVENT.PUBLISH" WHERE topic like '%fluxmq%'
  • 使用常量字段,用双引号""包裹字符串,作为常量值;as后面跟字段,作为输出的字段名:
plsql 复制代码
SELECT *, "test" as event FROM "$EVENT.PUBLISH"
  • 可以直接使用Java的String API,如 startsWith,endsWith;获取以'test'开头的所有Publish消息:
plsql 复制代码
select * from "$EVENT.PUBLISH" where topic.startsWith('test')

提示

  • FROM 子句后面的主题需要用双引号 "",或者单引号 '' 引起来。
  • WHERE 子句后面接筛选条件,如果使用到字符串需要用单引号 '' 引起来。
  • FROM 子句里如有多个事件,需要用逗号 "," 分隔。例如 SELECT * FROM "t/1", "t/2" 。
  • 可以使用使用 "." 符号对json字段进行嵌套选择。
  • 尽量不要给 payload 创建别名,否则会影响运行性能。即尽量不要这么写:SELECT payload as p

SQL函数列表

函数名 说明
json - 使用在SQL语句中,可以将嵌套的Json结构转换成字符串 - 使用在支持模板替换的想象中,比如数据库保存的SQL,KAFKA的TOPIC等地方
bytes 将对象转成字节数组,会先将对象JSON化,再转成UTF8格式的字节数组
int8 将对象转为Int8类型,相当于byte
int16 将对象转为Int16类型,相当于short
int32 将对象转为Int32类型,相当于int
int64 将对象转为Int64类型,相当于long
toDouble 将对象转为double类型
hexStr 将对象转成HEX字符串, 会先将对象JSON化,再转成对象的16进制字符串
date 格式化时间字符串:yyyy-MM-dd
datetime 格式化时间字符串:yyyy-MM-dd HH:mm:ss
dateToTimestamp yyyy-MM-dd 时间字符串转成时间戳
datetimeToTimestamp yyyy-MM-dd HH:mm:ss 时间字符串转成时间戳
uuid 生成32位随机小写字符串
uuidUpper 生成32位随机大写字符串
isBytes 判断是否是字节数组
isJson 判断是否是json

SQL事件

规则的 SQL 语句可以处理事件(发布消息、客户端上下线、客户端订阅等),FROM 子句后面跟事件主题。

事件主题以 $EVENT/ 开头,比如 E V E N T . P U B L I S H , EVENT.PUBLISH, EVENT.PUBLISH,EVENT.SUBSCRIBE 。

事件名称 事件主题名 释义
发布事件 $EVENT.PUBLISH 发布消息
订阅事件 $EVENT.SUBSCRIBE 订阅成功消息
取消订阅事件 $EVENT.UNSUBSCRIBE 取消订阅成功消息
发布回复事件 $EVENT.ACK 消息接收成功并回复
心跳事件 $EVENT.PING 连接保活心跳消息
取消连接事件 $EVENT.DISCONNECT 客户端主动断开连接
连接断开事件 $EVENT.CLOSE 服务端关闭连接
建立连接事件 $EVENT.CONNECT 连接成功
离线消息事件 $EVENT.OFFLINE 离线期间接收的消息
支持的数据源
  • [✔] MySQL
  • [✔] PostgreSQL
  • [✔] Oracle
  • [✔] SQL Server
  • [✔] Redis
  • [✔] TDengine
  • [✔] ClickHourse
  • [✔] Kafka
  • [✔] RabbitMQ
  • [✔] RocketMQ
  • [✔] Pulsar
  • [✔] MQTT
  • [✔] Mogodb
  • [✔] Log

多协议

目前已经支持的协议如下:

  • [✔] Websocket
  • [✔] Ocpp
  • [✔] GBT32960
  • [✔] JT808
  • [✔] V2C
  • [✔] I1
  • [✔] Coap

通过控制台启动协议插件后,默认会在集群每个节点气动对应的协议插件,依托于FluxMQ,该协议天然支持集群,订阅的规则如下:

下行指令通过MQTT下发给具体的设备,TOPIC规则为:{协议名称}/down/{vin}

上行是设备上报的报文,TOPIC规则为:{协议名称}/up/{vin}

脚本

脚本的处理时机是在MQTT事件处理器之前,因此脚本的适用于修改、解析、加解密MQTT传输的Payload。脚本默认匹配主题支持通配符,处理Payload可以直接返回byte[]或者String。

Javascript脚本
javascript 复制代码
 function convert(topic, payload){
   return payload;
 }
Lua脚本
lua 复制代码
function convert(topic, payload)
   return payload
end
Groovy脚本
lua 复制代码
def convert(String topic, byte[] payload){
    return payload
}

FluxMQ免费推广

FluxMQ默认提供免费的接入License许可,直接参考我们文档下载即可。

相关推荐
车载诊断技术1 小时前
电子电气架构 --- 什么是EPS?
网络·人工智能·安全·架构·汽车·需求分析
KevinRay_1 小时前
Python超能力:高级技巧让你的代码飞起来
网络·人工智能·python·lambda表达式·列表推导式·python高级技巧
2301_819287122 小时前
ce第六次作业
linux·运维·服务器·网络
CIb0la2 小时前
GitLab 停止为中国区用户提供 GitLab.com 账号服务
运维·网络·程序人生
Black_mario2 小时前
链原生 Web3 AI 网络 Chainbase 推出 AVS 主网, 拓展 EigenLayer AVS 应用场景
网络·人工智能·web3
中科岩创3 小时前
中科岩创边坡自动化监测解决方案
大数据·网络·物联网
Rinai_R4 小时前
计算机组成原理的学习笔记(7)-- 存储器·其二 容量扩展/多模块存储系统/外存/Cache/虚拟存储器
笔记·物联网·学习
brrdg_sefg5 小时前
WEB 漏洞 - 文件包含漏洞深度解析
前端·网络·安全
老刘莱国瑞5 小时前
STM32 与 AS608 指纹模块的调试与应用
python·物联网·阿里云