Jetson orin agx配置ultralytics 使用docker或conda

一、docker

以yolov8为例进行探索:

https://www.jetson-ai-lab.com/tutorial_ultralytics#__tabbed_2_1

  1. 拉取对应docker镜像

注意要先把原先的东西删除彻底了再安装

停止服务

sudo systemctl stop docker.service

安装后赶紧先改默认路径位置 + 换源

sudo vim /etc/docker/daemon.json

docker Root Dir: /home/user/docker_work/docker

重启

sudo systemctl daemon-reexec

sudo systemctl start docker

  1. 进入镜像

启动容器:

t=ultralytics/ultralytics:latest-jetson-jetpack6

sudo docker pull t \&\& sudo docker run -it --ipc=host --runtime=nvidia --network=host t

配置http代理:

root@ubuntu:/ultralytics# export http_proxy="http://127.0.0.1:7897"

root@ubuntu:/ultralytics# export https_proxy="http:/127.0.0.1:7897"

配置pip源

设置默认镜像源

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple/

设置信任主机

pip config set global.trusted-host pypi.tuna.tsinghua.edu.cn

二、conda配置

如果不想用docker 怎么配置呢:以为ultralytics为例

首先要确认自己的版本信息

  1. Cuda版本 nvcc 这里是12.6

  2. 安装好jet-pack, 确认对应版本, 这里是6.2.1

https://pypi.jetson-ai-lab.io/jp6/cu126 这里便会有jetson的一些python轮子,可以看出都要求python=3.10

  1. 创建虚拟环境 注意创建前最好更新一下conda, 注意指定python版本

  2. 根据上述网址,下载torch torchvision onnx 的whl并安装

  3. Pip install ultralytics numpy==1.26.1 torch==2.8.0总而言之,一定要指定你必须要使用的版本,否则pip会直接给你下载兼容ultralytics的最新的torch, 这个torch可就未必兼容你的jetpack了

  4. 还没有装tensorrt, 这个网址里是找不到的,但是jetpack已经给你装过了,在/usr/lib/python3.10/dist-packages, 软链接过去,注意换成自己的路径。

设置一下路径变量,注意先进入你要配置的conda虚拟环境

CONDA_SITE_PACKAGES=$(python -c 'import site; print(site.getsitepackages()-1)')

SYSTEM_PATH="/usr/lib/python3.10/dist-packages"

链接核心模块文件夹

sudo ln -s SYSTEM_PATH/tensorrt CONDA_SITE_PACKAGES/tensorrt

sudo ln -s SYSTEM_PATH/tensorrt_dispatch CONDA_SITE_PACKAGES/tensorrt_dispatch

sudo ln -s SYSTEM_PATH/tensorrt_lean CONDA_SITE_PACKAGES/tensorrt_lean

复制元数据(让 pip 和 Conda 识别版本信息)

sudo cp -r SYSTEM_PATH/tensorrt-10.3.0.dist-info CONDA_SITE_PACKAGES/

sudo cp -r SYSTEM_PATH/tensorrt_dispatch-10.3.0.dist-info CONDA_SITE_PACKAGES/

sudo cp -r SYSTEM_PATH/tensorrt_lean-10.3.0.dist-info CONDA_SITE_PACKAGES/

相关推荐
随便做点啥2 小时前
32卡-64G-910B4-16后端-(Qwen3.8-27B-W8A8)集群部署报告
运维·服务器·经验分享·docker·vllm
Orange_sparkle11 小时前
从 Docker 到 Doris:建立后端基础设施全景图
运维·docker·ai·容器·claude code
gx234812 小时前
控制器管理
docker·容器·kubernetes
白清羽13 小时前
7.3系统安装docker
运维·docker·容器
dazhong201215 小时前
Docker 入门篇(八)-- CentOS7 安装 MySQL 8
mysql·docker·容器
典典分享指南17 小时前
用大模型把写作 SOP 变成可复用 Prompt
docker·jupyter·eclipse·phpstorm·myeclipse
Larru-Sun20 小时前
从零开始用 Docker 部署 Node.js 后端服务
docker·容器·node.js
feilieren1 天前
ubuntu 安装 docker
linux·ubuntu·docker
judezh1 天前
一个 Agent 平台要起 12 个容器,做演示能砍到几个?
docker
飞询1 天前
ubuntu 安装 docker
ubuntu·docker