SpringCloud微服务MQTT架构:设备消息统一接入、业务分发设计

SpringCloud微服务MQTT架构:设备消息统一接入、业务分发设计

作者:黒漂技术佬

上一篇文章我们搞定了 SpringBoot 单机版整合 MQTT。但如果你的智慧农业平台接入了几千个大棚、上万台设备,天天吐着海量传感器数据------单机应用迟早会被撑爆。

这个时候就需要微服务架构来拆解压力。本文带你设计一套基于 SpringCloud 的 MQTT 设备消息统一接入和业务分发方案。

一、为什么要用微服务?

先说一个残酷的现实:MQTT 消息处理和业务处理本质上是两种不同性质的负载。

  • 接入层 :IO 密集型,大量 TCP 连接,消息转发。瓶颈在网络连接数
  • 业务层 :CPU 密集型/IO 密集型,数据解析、计算、入库。瓶颈在数据库计算资源

把它们硬塞在一个进程里(单体架构),就会互相拖累。接入层被海量消息打满线程池的时候,业务处理也跟着卡死。反之,一个复杂的聚合查询把数据库拖慢,可能影响到消息的正常接收。

微服务的核心价值就是 「各管各的,独立伸缩」

scss 复制代码
                    ┌──────────────┐
                    │  MQTT Broker │
                    │   (EMQX)     │
                    └──────┬───────┘
                           │ MQTT协议
                           ▼
              ┌────────────────────────┐
              │  device-gateway        │
              │  (接入网关 - 可横向扩展)  │
              └───────────┬────────────┘
                          │ RocketMQ / Kafka
                          ▼
         ┌────────────────┼────────────────┐
         ▼                ▼                ▼
┌─────────────┐  ┌─────────────┐  ┌─────────────┐
│data-process │  │alert-service│  │control-svc  │
│数据处理      │  │告警服务      │  │控制服务      │
└─────────────┘  └─────────────┘  └─────────────┘

二、微服务职责划分

来看看每个服务分别该干什么:

2.1 接入网关服务(device-gateway)

这是整个系统的咽喉。所有设备消息先到这里,再转发到内部系统。

核心职责三板斧:

  1. 接收 MQTT 消息:订阅所有设备数据 Topic
  2. 消息转换:MQTT 报文 → 统一内部消息体
  3. 消息路由:根据 Topic 下发到不同的 RocketMQ Topic
java 复制代码
@Slf4j
@Service
public class MessageRoutingService {
    
    @Autowired
    private RocketMQTemplate rocketMQTemplate;
    
    // Topic → RocketMQ Topic 映射关系
    private static final Map<Pattern, String> ROUTE_MAP = Map.of(
        Pattern.compile("agriculture/.+/sensor/.*"), "sensor-data",
        Pattern.compile("agriculture/.+/status"),     "device-status",
        Pattern.compile("agriculture/.+/alarm"),      "device-alarm"
    );

    public void route(String mqttTopic, String payload) {
        for (Map.Entry<Pattern, String> entry : ROUTE_MAP.entrySet()) {
            if (entry.getKey().matcher(mqttTopic).matches()) {
                String rocketTopic = entry.getValue();
                
                // 构建统一消息体
                InternalMessage msg = InternalMessage.builder()
                    .mqttTopic(mqttTopic)
                    .payload(payload)
                    .timestamp(System.currentTimeMillis())
                    .gatewayId(gatewayId) // 标识来自哪个网关实例
                    .build();
                
                rocketMQTemplate.convertAndSend(rocketTopic, msg);
                return;
            }
        }
        log.warn("未匹配路由规则,消息丢弃: {}", mqttTopic);
    }
}

你可能注意到这里有个 gatewayId------它用于标识消息来自哪个网关实例,方便排查问题和负载追踪。

2.2 设备管理服务(device-service)

这个服务不处理传感器数据,它管的是设备的「身份证」

  • 设备注册、激活(设备首次入网时的握手流程)
  • 设备认证(连接 MQTT 时的用户名密码校验)
  • 设备状态管理(在线/离线/休眠)
  • 设备OTA升级

EMQX 这样的企业级 Broker 支持 HTTP 回调做设备认证------设备连接时 EMQX 会调你的 HTTP 接口,你返回「允许」或「拒绝」即可。

2.3 数据处理服务(data-process)

从 RocketMQ 消费 sensor-data 消息,解析后写入时序数据库:

java 复制代码
@Slf4j
@Service
@RocketMQMessageListener(
    topic = "sensor-data",
    consumerGroup = "data-process-group",
    selectorExpression = "*"
)
public class SensorDataConsumer implements RocketMQListener<InternalMessage> {

    @Autowired
    private InfluxDBService influxDBService;

    @Override
    public void onMessage(InternalMessage msg) {
        SensorData data = parseSensorData(msg.getPayload());
        
        if (!validate(data)) {
            log.warn("数据校验失败,丢弃: {}", data);
            return;
        }
        
        // 写入InfluxDB时序数据库
        influxDBService.write(data);
    }
    
    /**
     * 数据校验:温度 -40℃ ~ 80℃,湿度 0 ~ 100%
     */
    private boolean validate(SensorData data) {
        if (data.getTemperature() < -40 || data.getTemperature() > 80) {
            return false;
        }
        if (data.getHumidity() < 0 || data.getHumidity() > 100) {
            return false;
        }
        return true;
    }
}

2.4 告警服务(alert-service)与控制服务(control-service)

告警服务从 RocketMQ 消费数据,和预设阈值对比,超出就发告警通知(短信、钉钉、微信等)。

控制服务负责下发指令到设备。它不走消息队列,而是通过 HTTP 直接调网关或者通过独立 MQTT 出站通道发送,这样保证指令下发的低延迟

三、双层消息架构:MQTT Broker + 内部MQ

这里要重点解释一下为什么我们需要 两层消息队列

scss 复制代码
                        MQTT Broker
                     (设备 ↔ 服务器)
                            │
                            ▼
                     RocketMQ / Kafka
                     (服务 ↔ 服务)

第一层 MQTT Broker 是设备和服务器之间的桥梁。它解决了物联网最底层的问题:轻量、省电、支持弱网、海量连接。

第二层 RocketMQ / Kafka 是服务与服务之间的桥梁。它解决了微服务架构中的问题:解耦、削峰、异步、重试、死信、顺序消费。

MQTT 是用来「接设备的」,内部消息队列是用来「拆业务的」**。**两者各司其职。

那能不能直接用 MQTT Broker 做服务间通信?技术上可以,但不推荐。MQTT 是按 Topic 发布订阅的,无法提供 RocketMQ/Kafka 那种强大的消费组、消息回溯、Tag 过滤、事务消息等能力。

四、Nacos 服务注册与发现

既然是 SpringCloud 微服务,当然少不了服务注册中心。这里用 Nacos:

yaml 复制代码
# device-gateway 的配置
spring:
  cloud:
    nacos:
      discovery:
        server-addr: 127.0.0.1:8848
        namespace: smart-agriculture
        group: DEFAULT_GROUP
  application:
    name: device-gateway

网关需要知道数据处理服务的地址吗?不需要------它们通过 RocketMQ 异步通信,完全解耦。

但控制服务需要通过 Feign 调网关发指令时,就需要 Nacos:

java 复制代码
@FeignClient(name = "device-gateway")
public interface DeviceGatewayClient {
    
    @PostMapping("/api/command/send")
    Result<Boolean> sendCommand(@RequestBody CommandRequest request);
}

五、流量控制:别让设备把服务打垮

几千台设备同时发消息,接入网关的压力可想而知。万一某批设备程序 Bug 死循环发消息,直接把网关打挂了怎么办?

用 Sentinel 做流量控制:

java 复制代码
@Slf4j
@Component
public class MqttMessageHandler {

    @ServiceActivator(inputChannel = "mqttInputChannel")
    @SentinelResource(
        value = "mqtt-message-handle",
        blockHandler = "handleBlock"
    )
    public void handleMessage(Message<?> message) {
        String topic = (String) message.getHeaders()
            .get(MqttHeaders.RECEIVED_TOPIC);
        // 正常处理逻辑...
    }
    
    /**
     * 流量限制回调:消息太多时触发
     */
    public void handleBlock(Message<?> message, BlockException ex) {
        log.warn("MQTT 消息处理被限流,Topic: {}", 
            message.getHeaders().get(MqttHeaders.RECEIVED_TOPIC));
        // 可以选择记录到本地缓冲区,稍后处理
        // 或者直接丢弃(传感器数据具有一定的时效性,过期数据价值有限)
    }
}

Sentinel 可以按 QPS(每秒请求数)或并发线程数限流。对于传感器数据,建议按 QPS 限制,比如单实例处理上限 5000 QPS,超出就触发限流。

六、智慧农业微服务拆分实战总结

最终的服务划分和数据库对应关系:

微服务 所属层 数据库 核心职责
device-gateway 接入层 无状态 MQTT桥接、消息路由、限流
device-service 业务层 MySQL 设备注册、认证、状态管理
data-process 数据层 InfluxDB 传感器数据解析、清洗、入库
alert-service 业务层 MySQL 阈值检测、告警通知
control-service 业务层 MySQL 指令下发、联动控制
statistics-service 数据层 MySQL + InfluxDB 数据聚合、报表生成

数据库的划分遵循 「谁拥有数据,谁掌管数据库」 原则。device-service 独享设备表,其他服务要查设备信息必须通过 API 调它------这叫 数据所有权,是微服务设计中最容易被忽视但最重要的原则之一。

总结

微服务 + MQTT 的本质是「接入和业务分离」。MQTT Broker 扛连接的,RocketMQ/Kafka 扛业务的,Nacos 管发现的,Sentinel 管流控的。各自归位,各司其职。

这种架构可以轻松支撑 10 万+ 设备同时在线------接入网关加实例就行,数据处理服务加消费者就行,互不影响。

相关推荐
jingli92 分钟前
多平台多店铺客服怎么统一接待?千牛/拼多多/抖音/京东/闲鱼/微信/快手切窗口太累,一个后台集中接管的七步落地方案(2026 实操版)
人工智能·自动化·用户运营
workflower3 分钟前
SSH(Struts+Spring+Hibernate)
人工智能·机器学习·机器人·云计算·无人机
武子康3 分钟前
自己做一个 Mini Reviewer:让 AI 审到本次准备提交的代码
人工智能·llm·agent
木子算法6 分钟前
不是重心也不是中点:费马—韦伯点、它的最优性条件与迭代求解
人工智能·算法·目标跟踪
正经教主7 分钟前
【FDE系列】阶段2:Day 43:Docker Compose — 多容器一键编排
人工智能·docker·fde
YOLO数据集集合8 分钟前
天空红外小目标检测数据集 | 红外小目标 天空目标检测 无人机检测 鸟类识别 低空安防9099期
人工智能·目标检测·计算机视觉·目标跟踪·无人机·无人机视角·直升机检测
徐健峰10 分钟前
Windows 安装 Codex CLI 教程:npm 安装、首次登录与常见报错排查【无图精华版】
人工智能·gpt
微三云 - 廖会灵 (私域系统开发)12 分钟前
企业大模型应用工程化思考:跳出 Demo 陷阱,构建「业务‑资产‑Agent」三层落地架构
人工智能·矩阵·重构
IamZJT_14 分钟前
03| 新消息来了:让 Demo 会追问、等待和继续调查
人工智能
Ai-_Man15 分钟前
您您这可以把Mistral AI的多个会话比如说。左侧的多个会话一次性导出吗?不是单条会话里面的多次会对话。
人工智能·ai·小程序·电脑