在边缘侧交付 AI 视频分析系统时，完成高效的边缘计算盒子部署 并正确配置各项服务参数，是确保硬件算力（如算能SE5 、灵犀 、超星未来等边缘设备）充分发挥性能的关键。本文整理了一份标准部署指南与核心参数配置说明，帮助工程师掌握部署前准备、部署中验证与部署后排查的全流程规范。
1. 部署目标和适用场景
本指南适用于厂区、园区、加油站及智慧工地等边缘计算场景。通过在嵌入式边缘计算盒子上部署 AI 视频分析平台微服务，接入现场 RTSP 摄像头，开启 NPU 硬件解码与算法推理，实现低延迟的违规行为识别与实时告警推送。
2. 环境准备清单
| 资源/环境维度 | 推荐/标准配置 | 运维说明 |
|---|---|---|
| 算力芯片 (NPU/GPU) | 算能SE5 (BM1684/BM1684X)、灵犀边缘算力盒、超星未来芯片 | 需确保配套 NPU Runtime 与驱动已成功加载 |
| CPU / 内存 | 4核/8核 ARM64 处理器， |
为系统与算法推理预留至少 2GB 共享内存 |
| 磁盘存储 | 严禁使用劣质 TF 卡，避免高并发写日志导致卡顿 | |
| 操作系统 | Ubuntu 20.04/22.04 LTS (aarch64) 或 厂商定制 Linux | 确保 Linux 内核支持 Docker 镜像挂载 |
| Docker / 驱动 | Docker 20.10+，Docker Compose v2+ | 确保宿主机 NPU 设备节点对容器放行 |
| 网络环境 | 千兆网口，局域网延时 |
盒子与摄像头处于同一物理子网或静态路由可达 |
| 摄像头路数接入 | 建议单盒接入 4~16 路 1080P RTSP 视频流 | 优先使用 H.264 编码，减少解码开销 |
3. 架构说明
系统在边缘盒子内采用容器化微服务架构，核心组件交互流程如下：
[摄像头 RTSP 流]
│
▼
[流媒体服务 (MediaServer)] ──(硬件解码)──► [算法推理服务 (NPU/SOPHGO SDK)]
│
(检测/识别)
│
▼
[Web 控制平台 (Gateway/API)] ◄───(事件触发)─── [告警服务 (Webhook/MQTT)]
│ │
▼ ▼
[SQLite / Redis] [上级管理平台 / 客户端]-
平台服务：提供 Web UI 管理、通道配置、规则划定及用户鉴权。
-
流媒体服务：负责 RTSP/RTMP 拉流、转码及 Web 端低延迟预览（HLS/FLV/WebRTC）。
-
算法服务 ：绑定灵犀、超星未来或算能SE5 的 TPU/NPU 驱动，加载硬件专属模型（如
.bmodel）执行推理。 -
数据库/缓存：轻量级 SQLite 存储配置，Redis 维护流状态与 Token 缓存。
-
告警服务：将抓拍图片与结构化数据通过 Webhook 或 MQTT 推送到上级系统。
4. 部署步骤
按照"准备 安装
配置
启动
验证
上线"六段式流程执行：
-
准备阶段：检查盒子电源、网线及 NPU 节点连通性：
Bash
# 算能SE5 查看 TPU 状态 bm-smi # 检查芯片设备节点是否存在 ls -l /dev/bm-tpu* /dev/ion -
安装阶段：将边缘镜像包加载至本地 Docker 环境：
Bash
docker load -i ai-edge-platform-arm64.tar.gz cd /opt/ai-edge-platform/ -
配置阶段 ：修改
env.conf与docker-compose.yml，设置网卡 IP、模型路径及设备映射。 -
启动阶段：一键拉起边缘容器组：
Bash
docker-compose up -d -
验证阶段：执行服务健康度检测，确认流媒体与算法引擎就绪。
-
上线阶段：填入现场 RTSP 地址，划分检测 ROI 区域，开启 7x24 小时长运行。
5. 配置项说明表
以下为边缘计算盒子部署过程中核心参数的具体配置规范：
| 参数名称 | 参数含义 | 推荐值 | 错误示例 | 调优与配置建议 |
|---|---|---|---|---|
| 端口 (Port) | 平台 Web UI 与 API 映射端口 | 18080 (Web) 18081 (API) |
80 (易与宿主机冲突) |
避开系统保留端口，配置防火墙放行 |
| 服务名 (Service) | 容器服务组件标识 | ai-gateway ai-engine |
test-service |
统一命名规则，便于日志查看与 Compose 管理 |
| 视频流地址 | 现场摄像头的 RTSP 协议地址 | rtsp://admin:pass@192.168.1.64:554/h264/ch1/main/av_stream |
[http://192.168.1.64](http://192.168.1.64) |
推荐使用 H.264 主/辅流，并在 URL 中明确携带鉴权密码 |
| 模型路径 | NPU/TPU 硬件专属编译模型文件路径 | /opt/models/person_helmet_bm1684x.bmodel |
/models/yolov5.pt |
必须填入针对算能SE5/灵犀/超星未来硬件转换后的特定模型 |
| 并发路数 | 单盒允许同时运行算法的通道上限 | 8 |
32 (超过硬件算力上限) |
根据芯片 TOPS 算力评估，超量会导致显存溢出与丢帧 |
| 日志路径 | 挂载到宿主机的日志输出路径 | /var/log/ai-platform/ |
/tmp/logs |
必须挂载至持久化存储，并设置最大日志体积限制 |
| 告警回调地址 | 接收告警抓拍图与 JSON 的外部接口 | [http://192.168.1.200:8080/api/v1/alarm/receive](http://192.168.1.200:8080/api/v1/alarm/receive) |
http://localhost:8080 |
填写可跨网段访问的实际上级 API 地址 |
6. 验证方法
完成部署后，运维工程师须按照以下标准检查交付结果：
-
页面能打开 ：浏览器访问
http://<盒子IP>:18080，登录界面正常呈现，HTTP 状态码为 200。 -
视频能预览：添加摄像头 RTSP 后，通道管理页面可以在 2 秒内加载出低延迟画面。
-
算法能告警：在测试区域触发预警行为，控制台弹窗能实时展示包含目标框的抓拍图。
-
日志无异常 ：运行
docker-compose logs -f查看实时日志，未发现TPU/NPU Exception、CUDA out of memory等报错。 -
回调成功：第三方接收服务器日志显示成功收到 HTTP 200 回执，JSON 格式符合接口规范。
7. 常见问题与排查命令
常见故障总览
| 现象 | 可能原因 | 排查位置 | 解决处理 |
|---|---|---|---|
| 服务起不来 | 端口冲突或磁盘爆满 | docker-compose logs |
修改冲突端口或清理磁盘空间 |
| NPU/GPU 不可见 | 驱动未映射或 Docker 配置漏挂设备 | /dev/bm-tpu* / Compose 文件 |
在 docker-compose.yml 中配置 devices 设备节点 |
| 拉流失败 | 网络不通、凭据错误或协议不匹配 | ffplay 命令测试 |
确认 RTSP 密码，强制使用 TCP 传输模式 |
| 告警不触发 | ROI 区域设定错误或置信度阈值过高 | 算法服务配置 | 降低置信度（如 0.45），重新设置检测区域 |
| 延迟高 / CPU占用高 | 开启了 CPU 软解码而非 NPU 硬解码 | top / 算力监控命令 |
检查硬件 SDK 依赖，开启芯片专属 VPU 解码 |
排查命令与截图建议
Bash
# 1. 查看算能 SE5 芯片显存与使用率
bm-smi
# 2. 测试摄像头 RTSP 拉流与解码连通性
ffplay -rtsp_transport tcp "rtsp://admin:pass@192.168.1.64:554/h264/ch1/main/av_stream"
# 3. 查看算法引擎日志中的致命异常
docker logs --tail 100 ai-engine-service | grep -E "ERROR|Exception|OOM"- 排查截图建议 ：在 F12 开发者工具 Network 页签截取
/api/v1/stream请求的 Status 与 Headers；截取终端df -h与bm-smi运行面板，以便向二次开发团队反馈环境数据。
8. 升级与回滚建议
-
升级前备份：导出边缘盒子的核心配置与数据库：
Bash
cp /opt/ai-edge-platform/data/config.db /opt/backup/config.db.bak -
严禁使用
latest标签 ：镜像版本须严格标注版本号（如v1.2.3-bm1684x）。 -
快速回滚机制 ：若新版本升级失败，修改
docker-compose.yml还原为上一版本 Tag，重启服务并恢复config.db数据库文件即可。
9. 延伸阅读与技术支持
在基于灵犀、超星未来、算能SE5等边缘计算盒子部署过程中，如果遇到复杂场景下的流媒体转发卡顿、算法模型量化转换精度下降或多算法并行调度问题，欢迎查看更多技术教程与核心平台架构方案。