土星云AI边缘计算-算法运行环境搭建:Docker部署全流程实操

****前言:****随着国产AI芯片的崛起,土星云AI边缘计算设备中的芯片凭借高性能、高可靠,在智能视觉、边缘计算等场景中广泛应用。但芯片的算法运行环境依赖特定SDK、驱动及工具链,不同主机环境差异易导致部署踩坑。Docker作为轻量级容器化技术,可实现"一次构建、处处运行",完美解决环境隔离与一致性问题。本文将详细讲解如何基于土星云AI边缘计算设备的芯片上快速搭建算法模型运行环境,覆盖从环境准备、镜像配置到模型部署验证的全流程,新手也能快速上手。

一、前置知识与环境准备

1.1 核心概念说明

本次实操围绕土星云AI边缘计算设备SE110S-WA32所用芯片(1684x)展开,核心依赖对应芯片专用SDK和Docker镜像,关键概念如下:

  • 目标芯片:本文以1684x边缘计算芯片为核心,其中1684x支持FP32/FP16/INT8多种精度,集成高性能ARM内核;支持PyTorch、TensorFlow等主流框架,适用于深度学习推理场景。
  • 专用SDK:适配1684x芯片的一站式工具包,包含底层驱动、编译器、运行时库(SAIL)等,是算法在该系列芯片上运行的核心依赖。

1.2 宿主机环境要求

确保宿主机SE110S-WA32满足以下条件,避免部署过程中出现兼容性问题:

  • SDK版本:v25.03.01;
  • 网络环境:可访问互联网,用于下载镜像。

二、芯片专用Docker镜像 制作

适配1684x芯片的专用Docker镜像,使用dockerfile的方式制作镜像。在镜像中安装了python3.8.10,同时安装jupyter notebook,默认密码:123456。

使用ssh连接上SE110S-WA32设备

cd /data

git clone https://gitee.com/saturn-cloud/se110s-wa32-docker.git

cd se110s-wa32-docker

cp -r /opt/sophon ./

sudo docker build -t se110s_wa32:v1.0 -f dockerfile .

本次镜像制作基于SE110S-WA32的SDK:v25.03.01版本进行,若为其它版本SDK需更换对应的sail包,即sophon_arm_sdk25.03.01-py3.8.10-none-any.whl文件。使用bm_version命令可查看SDK版本,如下图:

或直接拉取制作好的docker镜像(注意在启动容器时的镜像名称):

docker pull uhub.service.ucloud.cn/saturncloud/se110s_wa32:v1.0

三、启动Docker容器并配置算法运行环境

镜像制作完成后,启动容器并进入交互模式,为后续算法部署做准备。选择一个项目放置位置,如:/data/AI,将容器启动脚本写入start_docker.sh

mkdir -p /data/AI

cd /data/AI

vim start_docker.sh

内容如下:

#!/bin/bash

project=`pwd`

docker stop se110s_wa32

docker rm se110s_wa32

docker run -itd --name se110s_wa32 --restart=always --privileged --init \

--net=host \

--log-opt max-size=10m --log-opt max-file=3 \

-v /sys/kernel/debug/:/sys/kernel/debug/ \

-v /usr/bin/date:/usr/bin/date \

-v /etc/localtime:/etc/localtime \

-v /etc/timezone:/etc/timezone \

-v $project:/workspace \

-w /workspace \

se110s_wa32:v1.0 /bin/bash -c 'jupyter notebook --allow-root --no-browser'

至此已启动docker容器se110s_wa32。可打开浏览器输入{ip}:8888,即可打开notebook,默认密码:123456。

四、算法模型运行验证(实操示例)

环境搭建完成后,以常见的YOLOv10目标检测模型为例,演示模型在容器内运行验证,确保环境可正常用于算法部署。

使用git拉取示例代码:

cd /data/AI

git clone https://gitee.com/saturn-cloud/se110s-wa32-samples.git

docker exec -it se110s_wa32 /bin/bash

cd ./se110s-wa32-samples/YOLOv10

python3 main.py

执行完python命令后,等待几秒,在浏览器地址栏中输入{ip}:5001即可访问YOLOv10检测页面,选择一张图片进行检测,如下图所示:

、总结与拓展

本文详细讲解了基于土星云SE110S-WA32边缘计算设备使用Docker搭建算法运行环境,其核心优势在于利用Docker容器隔离特性,避免了部署的难题。

通过本文的实操,你可以快速搭建一套可复用、可迁移的算法运行环境,同样SE110S-WB16和SE110S-WC8可参考以上章节进行docker镜像的制作。用于目标检测、图像分类、语义分割等各类深度学习算法的部署。后续可基于该环境,进一步调试推理性能,实现算法的快速迭代与部署。

如果在实操过程中遇到其他问题,欢迎在评论区留言交流!

相关推荐
Brilliantwxx5 分钟前
【Linux】 进程(9)程序与进程地址空间(基础+进阶+面试题)
linux·运维·服务器·开发语言·c++
飞哥数智坊9 分钟前
GPT 做架构,国内模型写代码:这条 AI 开发路线能跑通吗?
人工智能·ai编程
BullSmall21 分钟前
第三方软件安全-Dependency‑Track Docker 部署
安全·docker·容器
不怕犯错,就怕不做29 分钟前
git prune 自动删除本地记录中那些远程已经不存在的分支引用
linux·服务器·git
AI_AGENT_DEV_AI1 小时前
AI 智能体的开发与上线
人工智能
VL——MOESR1 小时前
【具身智能】VLA论文阅读随笔
论文阅读·人工智能·机器学习·具身智能·vla
OCR_133716212751 小时前
从模板匹配到AI泛化识别:文本抽取如何重构护照阅读器落地生态
人工智能·重构
harmony&1 小时前
Docker 容器技术从入门到实战:容器、网络、存储与监控全解析
docker·云原生
大唐荣华1 小时前
从OpenAI关停Sora看世界模型、AI视频与国内具身智能赛道路线分化
人工智能·openai·sora·内容生成
DevOps老兵1 小时前
AI Infra实战02:GPU监控实战,用DCGM+Prometheus+Grafana看清每一张卡
人工智能·grafana·prometheus·ai infra·gpu监控·dcgm