NVIDIA Jetson AI边缘计算盒子

这里写自定义目录标题

烧录系统

选择一台Linux系统,或者VMware的电脑作为主机,烧录系统和后面安装Jetpack都会用到。

根据供应商的指令烧录的,暂时还没验证官方烧录(后续验证补充)。

安装Jetpack

  1. 在主机安装SDK Manager,去Jetson Download下载,千万不要下官方给的最新版本(因为他们文档是以前写的,下载他们这个版本登不上)。

  2. 安装指令

python 复制代码
sudo apt install ./sdkmanager_[version]-[build]_amd64.deb
  1. 启动
python 复制代码
sdkmanager
  1. 登录

输入NVIDIA Developer账户

  1. 按照以下步骤安装

安装cuda

python 复制代码
sudo apt install nvidia-jetpack -y

检查cuda版本

python 复制代码
# 不要使用nvidia-smi, 这个不准
nvcc -V

如果报错nvcc命令无法识别,需要将nvcc添加到环境变量

一般cuda安装在/usr/local/cuda/bin

python 复制代码
vim ~/.bashrc
python 复制代码
# 添加到~/.bashrc里面
export LD_LIBRARY_PATH=/usr/local/cuda/lib
export PATH=$PATH:/usr/local/cuda/bin
python 复制代码
source ~/.bashrc

安装Pytorch

python 复制代码
cd jetson-inference/build
./install-pytorch.sh

安装onnxruntime

为什么安装onnxruntime呢?

为了方便加载模型运行,可以先将torch模型转成onnx模型,再完成模型推理。

下载onnxruntime.whl,然后使用pip3 install onnxruntime_gpu-1.16.0-cp38-cp38-linux_aarch64.whl

GPU运行onnxruntime

python 复制代码
session = onnxruntime.InferenceSession(onnx_model, provider=['CUDAExecutionProvider'])

安装qv4l2

python 复制代码
# 安装驱动
sudo apt install qv4l2
python 复制代码
# 加载驱动
cd /etc/realtimes
sudo insmod cam_gmsl.ko
相关推荐
ifenxi爱分析5 小时前
爱分析发布《2026 爱分析·Data+AI应用实践报告》
大数据·人工智能
Thuni_soft5 小时前
华宇亮相2026药品数智发展大会:AI助推医疗器械审评审批提质增效
大数据·人工智能
通信大模型6 小时前
Aerial Agentic AI:面向低空无线网络的 LLM 与 SLM 协同框架
人工智能
元岳数字人小元6 小时前
数字人私有化部署:企业级AI数字场景长效落地优选方案
运维·人工智能·开源·人机交互·交互
EatFan6 小时前
AI Agent Harness 元年:从框架混战到运行时收敛,2026 年 Agent 基础设施分层重构解读
大数据·人工智能·重构·ai agent·mcp·a2a·agent harness
浪淘沙jkp6 小时前
【ComfyUI 国产模型炼丹记】第六篇:Wan2.2 I2V 提示词工程之影视级美学——从“微风拂面“到“电影级运镜“的 V100 实战公式
人工智能·文生视频·comfyui·ai模型·wan2.2
霸道流氓气质6 小时前
轻量级 AI 代码生成平台搭建实战:Ollama 本地模型 + Continue.dev + Open Code Review 的低成本方案
人工智能·代码复审
BOBY_KEJI6 小时前
AI交互技术赋能线下展示终端:多模式智能运行机制解析
人工智能
java资料站6 小时前
十三、SpringAl 知识库AI问答系统简单实现
人工智能