一、引言
随着智慧交通、智慧水利、智慧电力等行业的数字化进程不断深入，越来越多的视觉分析任务不再满足于把数据回传到云端处理，而是要求在现场就能完成"看得见、认得准、反应快"的实时判断。边缘计算因此成为人工智能落地的重要一环：算法靠近数据源运行，不仅大幅降低了传输带宽与时延，也规避了网络抖动带来的不确定性。
然而，边缘侧的算力、功耗、体积与散热往往相互制约。传统工控机要么算力不足，跑不动深度网络；要么体积庞大、功耗高，难以在户外机柜、杆件等恶劣环境中长期稳定运行。土星云 SE110S 系列边缘智能微服务器，正是面向这一场景打造的工业级边缘算力载体。本文将以 ResNet-50 这一经典图像分类模型为例，介绍其算法原理、典型应用，以及在 SE110S 系列三款产品（WA32 / WB16 / WC8）上的部署流程、精度与性能评测结果，供从事边缘智能落地的开发者参考。
二、算法模型介绍：深度残差网络 ResNet
ResNet（Deep Residual Network）由 Kaiming He 等人在 2015 年提出，是深度学习发展史上里程碑式的结构。在 ResNet 之前，研究者发现一个反直觉的现象：随着网络层数不断加深，训练误差反而上升，即所谓的"退化问题"。其根源在于深层网络中梯度难以顺畅回传，优化变得更加困难。
ResNet 的核心创新是引入"残差学习"思想。它通过跨层连接（shortcut connection），让网络学习的目标从"拟合完整映射 H(x)"转变为"拟合残差 F(x) = H(x) − x"。当网络学习到恒等映射时，只需将残差分支的权重逼近于零即可，这大大降低了深层网络的优化难度，使得堆叠上百层网络成为可能。
ResNet-50 是残差网络家族中应用最广的变体之一，采用瓶颈（bottleneck）结构：每个残差块由三个卷积层组成，分别对应 1×1 降维、3×3 特征提取、1×1 升维，在保持表达能力的同时显著压缩了计算量。其标准结构包含 49 个卷积层和 1 个全连接层，输入为 224×224 的图像，输出为 1000 类的分类置信度。凭借出色的精度-效率平衡，ResNet-50 被广泛应用于图像分类、目标检测与实例分割等任务的骨干网络。
三、典型应用场景
ResNet-50 作为图像理解的基础模型，在 SE110S 系列覆盖的行业中有着极其丰富的落地形态。结合设备的应用场景，典型用途包括以下几类。
智慧交通场景中，利用路口或卡口的高清视频流，对车辆、非机动车、行人进行类别识别与统计，配合后续检测分支可进一步实现车型分类、违章取证、车流量分析与信号灯优化。智慧水利场景中，可对河道、水库、闸站的监控画面进行水位线识别、漂浮物检测与异常事件预警。智慧电力场景中，可用于变电站、输电线路的现场工况识别与设备状态监测。
此外，在智慧社区（人员进出、消防通道占用、高空抛物识别）、智慧工地（安全帽佩戴、人员闯入、扬尘监测）以及智慧加油站（车辆出入、行为分析、漏油识别）等场景中，ResNet-50 同样可以作为视频结构化分析、目标检测与实时状态监测的共同底座。这类应用往往需要长时间、低功耗地运行在户外无空调、有粉尘、温变剧烈的恶劣环境中，对设备的环境适应性提出了很高要求。
四、土星云 SE110S 系列产品简介
SE110S 系列是面向工业现场打造的边缘计算微服务器，采用无风扇全金属冷导散热设计，具备防尘、防水（IP40）、防电磁干扰能力，可在 −20℃~+60℃ 环境下稳定运行，尺寸紧凑、噪音低，支持壁挂与机架安装，并可选配 WiFi / 5G 模组实现多模通信，非常适合智慧交通、水利、电力、社区、工地、加油站等场景。三款产品按 AI 算力分为 WA32、WB16、WC8 三档，核心规格对比如下。
|------------|------------------------------------------------|-----------------------------|-----------------------------|
| 项目 | SE110S-WA32 | SE110S-WB16 | SE110S-WC8 |
| CPU | 8 核 ARM A53 @2.0GHz | 8 核 ARM A53 @1.5GHz | 6 核 ARM A53 @1.0GHz |
| AI 算力 | 32 TOPS INT8 / 16 TOPS FP16·BF16 / 2 TOPS FP32 | 16 TOPS INT8 | 7.2 TOPS INT8 |
| 内存 | 16GB | 8GB | 8GB |
| 存储 | 64GB eMMC + M.2 SATA3.0（选配） | 32GB eMMC + M.2 SATA3.0（选配） | 32GB eMMC + M.2 SATA3.0（选配） |
| 视频解码 | 32 路 H.265/H.264 1080p@25fps | 16 路 H.265/H.264 视频解码 | 16路 H.264/H.265 1080p |
| 典型功耗 | 20W | 15W | 13W |
| 重量 | <2.3kg | <1.2kg | <1.2kg |
| 工作温度 | −20℃~+60℃ | −20℃~+60℃ | −20℃~+60℃ |
| 操作系统 | Ubuntu | Ubuntu | Ubuntu |
从规格可以看出，三款产品共用同一软件生态与接口形态，仅 AI 算力与视频处理能力不同。WA32 面向多路视频并发的高算力需求，WB16 是性能与功耗均衡的主流之选，WC8 则以更低的功耗与成本覆盖轻量化单路或少量路数场景。开发者可根据项目规模灵活选型，同一套算法与接口可以平滑迁移。
五、算法模型在 SE110S 系列上的部署
ResNet-50 的部署遵循"训练--导出--编译--移植"的标准流程，其核心思路是将 GPU 上训练好的浮点模型，通过专用编译工具转换为能在边缘 AI 加速核心上高效运行的模型格式（BModel），并针对不同精度与批次进行适配。下面以官方 ResNet 示例工程为蓝本，介绍具体步骤。
第一步：模型准备与导出。 由于训练的模型无法直接在加速器上运行，需要先把 PyTorch 权重导出为 ONNX 格式（如 resnet50_dynamic.onnx）。为支持量化，还需准备用于校准的数据集（本示例采用 200 张图片）；为验证精度，需准备测试数据集与对应标签文件（本示例采用 ImageNet val_1k 的 1000 张图片）。
第二步：模型编译（FP32 / FP16 / INT8）。 使用 TPU-MLIR 工具链，将 ONNX 模型编译为 BModel。编译时需指定目标平台与输入尺寸等参数，可分别生成 FP32、FP16 与 INT8 三种精度的模型。其中 INT8 量化通过 gen_int8bmodel_mlir.sh 脚本完成，能显著提升推理速度。编译产物按平台与精度组织存放，例如 resnet50_fp32_1b.bmodel、resnet50_int8_1b.bmodel、resnet50_int8_4b.bmodel（batch_size 分别为 1 和 4）。
第三步：例程移植与运行。 工程同时提供 C++ 与 Python 两套例程，预处理分别基于 OpenCV 与 BMCV 实现（BMCV 走硬件加速，预处理性能更优）。以 Python 例程 resnet_opencv.py / resnet_bmcv.py 为例，加载编译好的 BModel 后即可对图片或视频帧进行推理，输出分类结果。得益于共用软件栈，部署流程在三款 SE110S 产品上完全一致，仅需在编译与加载时指定对应的算力配置即可。
六、精度测试结果
精度测试在 ImageNet val_1k 数据集（1000 张图片）上进行，使用 tools/eval_imagenet.py 将推理预测结果与标签文件对比，计算 top-1 分类准确率。为便于横向比较，下表中各产品统一采用 OpenCV 预处理的 Python 例程（resnet_opencv.py）。
|--------------|-----------------|-----------------|-----------------|
| 测试产品 | FP32 模型 | FP16 模型 | INT8 模型 |
| SE110S-WA32 | 80.10% | 80.10% | 79.10% |
| SE110S-WB16 | 80.10% | 80.10% | 79.90% |
| SE110S-WC8 | 80.10% | 80.10% | 79.90% |
结果表明，三款产品在 INT8 量化下的准确率相对 FP32 仅下降约 0.2~1.0 个百分点，仍维持在 79% 以上的可用水平。这说明通过合理的量化策略，ResNet-50 可以在保持高识别精度的前提下，充分换取边缘侧的推理加速。由于不同版本 SDK 之间存在差异，实际运行结果与本表存在小于 1% 的精度波动属于正常现象。
七、性能测试结果
性能评测从两个维度展开：一是模型的理论推理时间，采用 bmrt_test 工具直接对 BModel 基准测试得到；二是端到端流水线时间，统计解码、预处理、推理、后处理四个环节的单张图片耗时。下面分别给出。
7.1 理论推理时间（bmrt_test，单位 ms/张）
|--------------|--------------|--------------|-----------------------|-----------------------|
| 测试产品 | FP32 | FP16 | INT8(batch=1) | INT8(batch=4) |
| SE110S-WA32 | 9.14 | 1.62 | 1.10 | 0.82 |
| SE110S-WB16 | 31.96 | 6.49 | 2.45 | 1.45 |
| SE110S-WC8 | 42.98 | 6.94 | 2.47 | 1.84 |
可以看出，INT8 相比 FP32 带来了数倍到数十倍的加速。以 SE110S-WA32 为例，单张推理时间由 FP32 的 9.14ms 降至 INT8 的 1.10ms；当 batch=4 时进一步降至 0.82ms，吞吐能力大幅提升。FP16 则是在精度与速度之间取得平衡的折中选项。
7.2 端到端流水线时间（BMCV 硬件预处理，单位 ms/张）
|--------------|--------------|--------------|-----------------------|-----------------------|
| 测试产品 | FP32 | FP16 | INT8(batch=1) | INT8(batch=4) |
| SE110S-WA32 | 9.12 | 1.61 | 1.08 | 0.81 |
| SE110S-WB16 | 33.39 | 6.64 | 2.46 | 1.48 |
| SE110S-WC8 | 42.71 | 6.71 | 2.26 | 1.76 |
上表为推理环节耗时。采用 BMCV 硬件预处理后，解码与预处理开销显著降低，推理环节成为主要瓶颈。结合各产品视频解码能力，SE110S-WA32 在高算力与 32 路解码能力支持下，完全可满足多路高清视频的实时结构化分析需求；WB16 与 WC8 则在功耗、体积与成本上更具优势，适合中小规模场景。需要说明的是，性能结果存在一定波动，建议多次测试取平均值；时间均折算为单张图片处理耗时。
八、总结与展望
本文介绍了 ResNet-50 的残差学习原理、典型应用场景，并在土星云 SE110S 系列（WA32 / WB16 / WC8）边缘微服务器上完成了从模型导出、INT8/FP16/FP32 编译到例程运行的完整部署。精度测试显示，INT8 量化后各产品准确率仍保持在 79%~80% 之间；性能测试显示，通过量化与批处理优化，单张推理时间可低至 1ms 级别，充分释放了边缘算力。
SE110S 系列凭借无风扇静音、防护等级高、宽温工作、低功耗等工业级特性，加上统一的软件栈与全覆盖的算力档位，为智能交通、水利、电力、社区、工地、加油站等场景提供了"一套算法、多档硬件"的灵活落地路径。未来，随着端侧模型轻量化技术与视频分析流水线的进一步优化，ResNet-50 及其衍生模型有望在更低功耗下支撑更多路数的实时智能分析，让边缘端的"看得见、认得准、反应快"真正成为常态。