土星云AI边缘计算-算法运行环境搭建:Docker部署全流程实操

****前言:****随着国产AI芯片的崛起,土星云AI边缘计算设备中的芯片凭借高性能、高可靠,在智能视觉、边缘计算等场景中广泛应用。但芯片的算法运行环境依赖特定SDK、驱动及工具链,不同主机环境差异易导致部署踩坑。Docker作为轻量级容器化技术,可实现"一次构建、处处运行",完美解决环境隔离与一致性问题。本文将详细讲解如何基于土星云AI边缘计算设备的芯片上快速搭建算法模型运行环境,覆盖从环境准备、镜像配置到模型部署验证的全流程,新手也能快速上手。

一、前置知识与环境准备

1.1 核心概念说明

本次实操围绕土星云AI边缘计算设备SE110S-WA32所用芯片(1684x)展开,核心依赖对应芯片专用SDK和Docker镜像,关键概念如下:

  • 目标芯片:本文以1684x边缘计算芯片为核心,其中1684x支持FP32/FP16/INT8多种精度,集成高性能ARM内核;支持PyTorch、TensorFlow等主流框架,适用于深度学习推理场景。
  • 专用SDK:适配1684x芯片的一站式工具包,包含底层驱动、编译器、运行时库(SAIL)等,是算法在该系列芯片上运行的核心依赖。

1.2 宿主机环境要求

确保宿主机SE110S-WA32满足以下条件,避免部署过程中出现兼容性问题:

  • SDK版本:v25.03.01;
  • 网络环境:可访问互联网,用于下载镜像。

二、芯片专用Docker镜像 制作

适配1684x芯片的专用Docker镜像,使用dockerfile的方式制作镜像。在镜像中安装了python3.8.10,同时安装jupyter notebook,默认密码:123456。

使用ssh连接上SE110S-WA32设备

cd /data

git clone https://gitee.com/saturn-cloud/se110s-wa32-docker.git

cd se110s-wa32-docker

cp -r /opt/sophon ./

sudo docker build -t se110s_wa32:v1.0 -f dockerfile .

本次镜像制作基于SE110S-WA32的SDK:v25.03.01版本进行,若为其它版本SDK需更换对应的sail包,即sophon_arm_sdk25.03.01-py3.8.10-none-any.whl文件。使用bm_version命令可查看SDK版本,如下图:

或直接拉取制作好的docker镜像(注意在启动容器时的镜像名称):

docker pull uhub.service.ucloud.cn/saturncloud/se110s_wa32:v1.0

三、启动Docker容器并配置算法运行环境

镜像制作完成后,启动容器并进入交互模式,为后续算法部署做准备。选择一个项目放置位置,如:/data/AI,将容器启动脚本写入start_docker.sh

mkdir -p /data/AI

cd /data/AI

vim start_docker.sh

内容如下:

#!/bin/bash

project=`pwd`

docker stop se110s_wa32

docker rm se110s_wa32

docker run -itd --name se110s_wa32 --restart=always --privileged --init \

--net=host \

--log-opt max-size=10m --log-opt max-file=3 \

-v /sys/kernel/debug/:/sys/kernel/debug/ \

-v /usr/bin/date:/usr/bin/date \

-v /etc/localtime:/etc/localtime \

-v /etc/timezone:/etc/timezone \

-v $project:/workspace \

-w /workspace \

se110s_wa32:v1.0 /bin/bash -c 'jupyter notebook --allow-root --no-browser'

至此已启动docker容器se110s_wa32。可打开浏览器输入{ip}:8888,即可打开notebook,默认密码:123456。

四、算法模型运行验证(实操示例)

环境搭建完成后,以常见的YOLOv10目标检测模型为例,演示模型在容器内运行验证,确保环境可正常用于算法部署。

使用git拉取示例代码:

cd /data/AI

git clone https://gitee.com/saturn-cloud/se110s-wa32-samples.git

docker exec -it se110s_wa32 /bin/bash

cd ./se110s-wa32-samples/YOLOv10

python3 main.py

执行完python命令后,等待几秒,在浏览器地址栏中输入{ip}:5001即可访问YOLOv10检测页面,选择一张图片进行检测,如下图所示:

五 、总结与拓展

本文详细讲解了基于土星云SE110S-WA32边缘计算设备使用Docker搭建算法运行环境,其核心优势在于利用Docker容器隔离特性,避免了部署的难题。

通过本文的实操,你可以快速搭建一套可复用、可迁移的算法运行环境,同样SE110S-WB16和SE110S-WC8可参考以上章节进行docker镜像的制作。用于目标检测、图像分类、语义分割等各类深度学习算法的部署。后续可基于该环境,进一步调试推理性能,实现算法的快速迭代与部署。

如果在实操过程中遇到其他问题,欢迎在评论区留言交流!

相关推荐
AI工具学习测评4 小时前
低空经济入法100天:统一低空数字监管平台的技术架构与建设路径
大数据·人工智能·物联网·无人机·智慧城市
HUIBUR科技4 小时前
AI 中枢,面向企业场景构建的 AI 智能体
前端·数据库·人工智能
在所不辞兄4 小时前
为什么物理嵌入神经网络的收敛性和泛化误差缺乏统一的理论保证?
人工智能·深度学习·神经网络·机器学习·有限元
一水鉴天4 小时前
声调韵的序:从古汉语音韵到系统科学语言的场效应推演 20261013(千问)
开发语言·人工智能
坐吃山猪4 小时前
Codex使用说明
人工智能·开发·codex
Yolanda_20224 小时前
26.网络模型的保存与读取
人工智能·pytorch·python
早点睡觉好了4 小时前
LangChain 源码入门 02:消息、ChatPromptTemplate 与 Chat Model 调用链
ai·langchain·策略模式
Allstar_434 小时前
拆解全星APQP系统的六大核心质量工具如何联动——汽车供应链企业专业级研发项目管理系统
运维·服务器
光锥智能4 小时前
阶跃AI手机STEPX Neo正式发布,接入支付宝阿宝300余项服务:找优惠、用优惠,对话框内全办结
人工智能·智能手机
随便写个软件4 小时前
【新版本】EasyExplorer资源管理器 3.12.0——地址栏重要更新
运维·服务器·前端·everything·资源管理器