基于 RK3588+RK1820/28 算力卡的国产工控机，适用于机器视觉，机器人等边缘算力场景
标签：# 瑞芯微 #RK3588 #RK1828 #边缘计算 #算力卡 #国产工控机 #大模型 #机器视觉
0. 摘要
边缘 AI 场景对算力的需求差异大且动态变化，固定算力配置的工控机要么冗余浪费、要么算力不足。本文介绍 "国产工控机 + RK1820/28 算力卡" 的组合方案：以 RK3588 的 6 TOPS 基础 NPU 打底，通过 M.2 接口按需叠加最多 3 张 RK1820/28 算力卡（单卡 20 TOPS INT8），形成 66 TOPS 边缘算力池，可承载 7B 参数级大模型，为机器视觉、工业机器人、医疗影像等行业提供弹性可扩展的边缘计算平台。
1. 行业痛点：边缘算力的 "弹性" 难题
随着边缘计算在工业领域的深入部署，算力配置的弹性问题日益凸显：
- 需求差异大：机器视觉检测、工业机器人控制、医疗影像处理等场景对推理性能的要求差异显著；
- 需求动态变化：同一场景在不同阶段（算法升级、接入路数增加）的算力需求也在变化；
- 固定配置两难：传统工控机固定算力，性能冗余造成成本浪费，算力不足又无法承载复杂模型。
如何在保持工业级可靠性的前提下实现算力的灵活扩展，是边缘计算硬件设计需要解决的核心问题。
2. 方案总览：国产工控机 + 算力卡
核心思路是把基础推理能力 与可扩展算力解耦：
- 基础平台：国产工控机集成瑞芯微 RK3588/RK3588J，自带 6 TOPS NPU，满足轻量目标检测、图像分类、异常识别等常规推理；
- 算力扩展：通过 M.2 接口接入 RK1820/28 算力卡，单卡 20 TOPS INT8，最多三卡叠加；
- 总算力 ：6 + 20×3 = 66 TOPS，可承载 7B 参数级别的模型推理，支持 LLM 与 VLM 类应用在边缘侧部署。
3. 基础平台：RK3588 国产主控
RK3588 是瑞芯微旗舰级 AIoT SoC，也是 NIS-5128 等国产工控机的算力基座：
表格
| 项目 | RK3588 规格 |
|---|---|
| 制程工艺 | 8nm，8 核 64 位 |
| CPU | 4×Cortex-A76 @2.4GHz + 4×Cortex-A55 @1.8GHz |
| GPU | ARM Mali-G610 MP4（约 450 GFLOPS） |
| NPU | 6 TOPS，支持 INT4/INT8/INT16/FP16 |
| ISP | 32MP ISP，支持 HDR 与 3DNR，多摄输入 |
| 视频编解码 | 8K 解码（8K@60fps 显示输出）与 8K 编码，支持 32 路 1080P 解码 |
| 内存 | 四通道 LPDDR4/4x/5/5x，最大 32GB |
| 高速接口 | PCIe 3.0、USB 3.1、双千兆以太网、HDMI 2.1、MIPI CSI/DSI 等 |
基础平台价值：6 TOPS NPU 承担轻量级视觉任务；8K 编解码 + 32 路 1080P 解码能力支撑多路视频分析；丰富的 CPU/GPU 资源保证大模型之外的业务应用（视频处理、设备通信、数据存储、人机交互）不被 AI 推理抢占资源。
4. 算力核心：RK1820/28 算力卡
RK182X 系列是瑞芯微在第九届开发者大会（2025）首发的 AI 协处理器芯片，专为端侧大模型应用设计，通过 PCIe 高速接口与主 SoC 协同工作，并内置高带宽 DRAM。两个型号规格如下：
表格
| 项目 | RK1820 | RK1828 |
|---|---|---|
| 定位 | 入门 AI 协处理器 | 高性能 AI 协处理器 |
| AI 算力 | 20 TOPS（INT8） | 20 TOPS（INT8） |
| 计算精度 | INT4/INT8/INT16/FP8/FP16/BF16 混合精度 | 同左 |
| 片上 DRAM | 2.5GB | 5GB（3D 堆叠高带宽） |
| 核心 | 3×64 位 RISC-V（SRV+VRV0+VRV1） | 同左 |
| 接口 | PCIe（M.2）/ USB 3.0 | 同左 |
| 典型功耗 | 约 5W | 约 5W |
| 大模型承载 | 3B 以内流畅运行 | 7B 以内流畅运行 |
| 适配主控 | RK3572 / RK3576 / RK3588 等 | 同左 |
核心特性：
- 专用 NPU 架构：为端侧 AI 推理优化，支持主流框架（TensorFlow/MXNet/PyTorch/Caffe/ONNX）模型快速转换；
- 内置高带宽 DRAM：大模型权重常驻片上内存，推理不占主控内存与带宽；
- 低功耗免改造：约 5W 功耗，通过 M.2（Key-M/Key B-M）接入，无需额外供电线路和散热改造；
- 可叠加扩展：根据算力需求灵活叠加多张卡，主控平台不变；
- 配套工具链 ：提供 RKNN3 工具链，支持 0.5B~8B 参数量大语言 / 多模态模型及传统 CNN 模型的本地化部署。
5. 66TOPS 算力池如何构成
以 NIS-5128 工控机为例，算力扩展的工程实现非常轻量：
- 接入方式 ：RK1820/28 算力卡采用 M.2 Key B-M 接口接入，主供电 3.3V，无需额外供电线路或散热改造；
- 三卡叠加 ：工控机内部最多支持 3 张算力卡，总算力 66 TOPS = 6 TOPS（基础 NPU）+ 60 TOPS（扩展）；
- 模型承载：66 TOPS 算力池可承载 7B 参数级模型推理，支持 LLM/VLM 边缘侧部署；
- 物理兼容 ：算力卡通过 M.2 接口固定于机内，不改变整机外形尺寸与安装方式，现有部署环境无需调整。
6. 工业级设计保障
算力扩展不能以牺牲工业可靠性为代价。NIS-5128 的工业级设计要点：
表格
| 维度 | 设计 |
|---|---|
| 供电 | 9~36V 宽压输入，内置反向及过压保护 |
| 环境 | 工作温度 -40℃~70℃，湿度 20%~90% 无凝露 |
| 通信隔离 | 6 路串口（3000Vrms 隔离）、2 路 CAN（全隔离） |
| 数字量 | 16 路 DI + 16 路 DO，覆盖数字量采集与控制 |
| 网络 | 2 路千兆网口 |
| 显示 | 1 路 HDMI 输入 + 2 路 HDMI 输出 |
| 安装 | 壁挂 / DIN 导轨 / VESA 多种安装方式 |
| 存储 | 标配 8/16/32GB 内存、64/128/256GB eMMC，可选 M.2 SSD 与 TF 卡 |
HDMI 1 入 2 出使 "图像采集 --- 推理分析 --- 结果呈现" 可在本地形成闭环，减少数据传输环节。
7. 软件生态与模型部署
- 操作系统 ：默认 Ubuntu，同时支持开源鸿蒙、银河麒麟、开源欧拉、统信等国产操作系统，适配信创要求；
- 推理框架：兼容 TensorFlow Lite、ONNX Runtime、OpenCV 等主流框架，模型部署与迁移成本可控；
- AI 工具链：RKNN3 工具链完成模型转换与量化；大模型推理通过专用服务（如 rkllm3-server 等）加载 RKNN 量化后的模型，支持 Qwen 系列等 0.5B~8B 模型本地运行；
- 异构分工 ：RK3588 承担系统、视频处理与业务应用，RK1820/28 通过 PCIe 提供独立 AI 推理能力，避免算力互相抢占导致卡顿。
8. 行业应用场景
8.1 机器视觉检测
单条产线常需同时处理多路工业相机画面：轻量检测模型 6 TOPS 即可运行，高精度缺陷检测网络则需要更高算力。66 TOPS 算力池可支撑多路高分辨率图像并行推理，漏检率与误报率较基础配置显著改善。
8.2 工业机器人控制
视觉伺服、路径规划、碰撞检测等任务需要在毫秒级完成。算力扩展后，复杂轨迹计算与多传感器融合可在本地完成，响应时延不受网络条件制约，保障运动控制稳定性。
8.3 医疗影像终端
CT、MRI 及病理切片图像处理是算力密集场景。传统方案依赖专用图像工作站，体积与成本高企；国产工控机 + 算力卡为医疗影像设备提供紧凑型替代方案，契合医疗装备国产化要求。
8.4 多路视频 AI 分析
RK3588 + RK182X 组合已有 16 路 1080P 视频流 AI 分析及 Qwen3-VL-2B 部署的公开案例，适用于安防监控、智慧园区、交通等场景的并发视频智能分析。
8.5 端侧大模型私有化部署
敏感数据不出厂、不出网：在工控机本地部署 0.5B~8B 的 LLM/VLM（对话问答、视觉理解），支撑工业质检问答、设备运维助手、本地 AI 智能体等应用，零 Token 费用、低时延、数据可控。
9. 弹性升级与投资保护
算力叠加的弹性体现在部署灵活性与投资保护两个层面：
- 项目初期：仅使用工控机自带 6 TOPS 算力，满足轻量任务；
- 逐步扩容：算法复杂度提升或接入路数增加后，再增配算力卡；
- 平台不变：硬件平台无需更换，软件环境保持不变，升级路径清晰可控。
对于需要多阶段迭代的工业项目，这种架构避免了硬件层面的推倒重来。
10. 结语
"RK3588 国产工控机 + RK1820/28 算力卡" 以基础算力与可扩展算力解耦为核心，将 66 TOPS 边缘算力、7B 级大模型承载能力和工业级可靠性整合在一台标准工控机内。从机器视觉、工业机器人到医疗影像、端侧大模型私有化部署，为各行业提供了一条 "按需配置、分期扩容、国产可控" 的边缘 AI 落地路径。