土星云AI边缘计算-算法运行环境搭建:Docker部署全流程实操

****前言:****随着国产AI芯片的崛起,土星云AI边缘计算设备中的芯片凭借高性能、高可靠,在智能视觉、边缘计算等场景中广泛应用。但芯片的算法运行环境依赖特定SDK、驱动及工具链,不同主机环境差异易导致部署踩坑。Docker作为轻量级容器化技术,可实现"一次构建、处处运行",完美解决环境隔离与一致性问题。本文将详细讲解如何基于土星云AI边缘计算设备的芯片上快速搭建算法模型运行环境,覆盖从环境准备、镜像配置到模型部署验证的全流程,新手也能快速上手。

一、前置知识与环境准备

1.1 核心概念说明

本次实操围绕土星云AI边缘计算设备SE110S-WA32所用芯片(1684x)展开,核心依赖对应芯片专用SDK和Docker镜像,关键概念如下:

  • 目标芯片:本文以1684x边缘计算芯片为核心,其中1684x支持FP32/FP16/INT8多种精度,集成高性能ARM内核;支持PyTorch、TensorFlow等主流框架,适用于深度学习推理场景。
  • 专用SDK:适配1684x芯片的一站式工具包,包含底层驱动、编译器、运行时库(SAIL)等,是算法在该系列芯片上运行的核心依赖。

1.2 宿主机环境要求

确保宿主机SE110S-WA32满足以下条件,避免部署过程中出现兼容性问题:

  • SDK版本:v25.03.01;
  • 网络环境:可访问互联网,用于下载镜像。

二、芯片专用Docker镜像 制作

适配1684x芯片的专用Docker镜像,使用dockerfile的方式制作镜像。在镜像中安装了python3.8.10,同时安装jupyter notebook,默认密码:123456。

使用ssh连接上SE110S-WA32设备

cd /data

git clone https://gitee.com/saturn-cloud/se110s-wa32-docker.git

cd se110s-wa32-docker

cp -r /opt/sophon ./

sudo docker build -t se110s_wa32:v1.0 -f dockerfile .

本次镜像制作基于SE110S-WA32的SDK:v25.03.01版本进行,若为其它版本SDK需更换对应的sail包,即sophon_arm_sdk25.03.01-py3.8.10-none-any.whl文件。使用bm_version命令可查看SDK版本,如下图:

或直接拉取制作好的docker镜像(注意在启动容器时的镜像名称):

docker pull uhub.service.ucloud.cn/saturncloud/se110s_wa32:v1.0

三、启动Docker容器并配置算法运行环境

镜像制作完成后,启动容器并进入交互模式,为后续算法部署做准备。选择一个项目放置位置,如:/data/AI,将容器启动脚本写入start_docker.sh

mkdir -p /data/AI

cd /data/AI

vim start_docker.sh

内容如下:

#!/bin/bash

project=`pwd`

docker stop se110s_wa32

docker rm se110s_wa32

docker run -itd --name se110s_wa32 --restart=always --privileged --init \

--net=host \

--log-opt max-size=10m --log-opt max-file=3 \

-v /sys/kernel/debug/:/sys/kernel/debug/ \

-v /usr/bin/date:/usr/bin/date \

-v /etc/localtime:/etc/localtime \

-v /etc/timezone:/etc/timezone \

-v $project:/workspace \

-w /workspace \

se110s_wa32:v1.0 /bin/bash -c 'jupyter notebook --allow-root --no-browser'

至此已启动docker容器se110s_wa32。可打开浏览器输入{ip}:8888,即可打开notebook,默认密码:123456。

四、算法模型运行验证(实操示例)

环境搭建完成后,以常见的YOLOv10目标检测模型为例,演示模型在容器内运行验证,确保环境可正常用于算法部署。

使用git拉取示例代码:

cd /data/AI

git clone https://gitee.com/saturn-cloud/se110s-wa32-samples.git

docker exec -it se110s_wa32 /bin/bash

cd ./se110s-wa32-samples/YOLOv10

python3 main.py

执行完python命令后,等待几秒,在浏览器地址栏中输入{ip}:5001即可访问YOLOv10检测页面,选择一张图片进行检测,如下图所示:

、总结与拓展

本文详细讲解了基于土星云SE110S-WA32边缘计算设备使用Docker搭建算法运行环境,其核心优势在于利用Docker容器隔离特性,避免了部署的难题。

通过本文的实操,你可以快速搭建一套可复用、可迁移的算法运行环境,同样SE110S-WB16和SE110S-WC8可参考以上章节进行docker镜像的制作。用于目标检测、图像分类、语义分割等各类深度学习算法的部署。后续可基于该环境,进一步调试推理性能,实现算法的快速迭代与部署。

如果在实操过程中遇到其他问题,欢迎在评论区留言交流!

相关推荐
冬奇Lab5 小时前
Workflow 系列(04):Multi-Agent 协调——编排器边界、并发控制与上下文隔离
人工智能·工作流引擎
冬奇Lab6 小时前
每日一个开源项目(第147篇):HyperGraphRAG - 用超图表示 N 元关系,RAG 的第三代范式
人工智能·开源·graphql
甲维斯6 小时前
Github + 阿里云oss实现类似codex的自动更新!
人工智能
阿里云大数据AI技术8 小时前
光轮智能 × 阿里云:共建 Physical AI 云上数据、评测与持续学习基础设施
人工智能·机器学习
机器之心8 小时前
实锤了:Claude Code偷查用户,时区、中国AI实验室全是关键词
人工智能·openai
网易云信8 小时前
Cursor点燃个人开发者,企业级AI为何频频受挫?Agent工厂从提效工具到AI员工的跃迁
人工智能·开源
网易云信8 小时前
解锁触手可及的温暖:网易智企 x Wander Puffs AI 云游泡芙
人工智能
转转技术团队8 小时前
从 PRD 到可验证代码:AI 需求开发闭环实践
人工智能