Nsight Systems 零基础入门:Trace采集与基础操作

目录

  • [1. 工具简介](#1. 工具简介)
  • [2. 环境简介](#2. 环境简介)
  • [3. Jetson 端采集 Trace(以本地VSCode为例)](#3. Jetson 端采集 Trace(以本地VSCode为例))
  • [4. 把.nsys-rep 从 Jetson 拉到 Windows 本地](#4. 把.nsys-rep 从 Jetson 拉到 Windows 本地)
    • [4.1 方法一:直接在VScode上操作](#4.1 方法一:直接在VScode上操作)
    • [4.2 方法二:利用windows的power shell](#4.2 方法二:利用windows的power shell)
  • [5. Nsight Systems的基本使用](#5. Nsight Systems的基本使用)
    • [5.1 远程设备连接](#5.1 远程设备连接)
    • [5.2 打开本地文件](#5.2 打开本地文件)
    • [5.3 界面介绍与基本操作](#5.3 界面介绍与基本操作)
      • [5.3.1 报告界面切换](#5.3.1 报告界面切换)
      • [5.3.2 Timeline缩放与平移](#5.3.2 Timeline缩放与平移)
  • [6. 总结与展望](#6. 总结与展望)

1. 工具简介

Nsight Systems 是 NVIDIA 官方推出的系统级性能剖析工具,主打 GPU、CPU、内存拷贝、CUDA 调用流的全局时序分析,是 CUDA 开发、GPU 程序性能调优的基础工具。

与侧重 Kernel 微观指标的 Nsight Compute 不同,Nsight Systems 更适合用于:定位程序整体瓶颈、观察数据传输耗时、判断计算与拷贝是否并行、分析 CUDA Stream 调度情况等宏观问题。

本文以 Jetson Orin 为演示设备,从零讲解 Nsight Systems 的基本使用方法。

2. 环境简介

📐硬件:Jetson Orin(远程 SSH 开发)

📐工程:CUDA 矩阵乘 matmul,可执行文件 trt-cuda

📐流程:远程 Jetson 采集 trace → scp 把报告拷到 Windows 本地 → Windows Nsight Systems 2026.4.1 打开分析

踩坑核心:Windows 本地 Nsight 版本(2026.4.1) > Jetson 内置 nsys 版本(2024.5.4)

👉 远程 GUI 直连 Target 实时采集会直接报通信错误!私有实时流协议跨大版本不兼容。

✅ 解决方案(本文主推、最稳方案):板端离线采集 nsys-rep 文件,拷贝到本地离线查看,离线报告向前兼容不受版本限制。

3. Jetson 端采集 Trace(以本地VSCode为例)

先进入到我们远程的软件工程中。然后输入:

bash 复制代码
nsys profile -o trt_cuda_trace ./trt-cuda

其中trt_cuda_trace 是生成trace文件的名称,./trt-cuda是本地编译生成的ELF文件。

4. 把.nsys-rep 从 Jetson 拉到 Windows 本地

这个方法就比较多了,有很多可以用的工具和方法,直接在VScode上操作也行。

4.1 方法一:直接在VScode上操作

直接选中生成的文件,然后鼠标右击,再点击下载,即可选中本地路径进行拉取。

4.2 方法二:利用windows的power shell

直接在windows的power shell中输入:

bash 复制代码
scp jetson@192.168.0.109:/home/jetson/chapter2-cuda-programming/2.6-nsight-system-and-compute/trt_cuda_trace.nsys-rep .

然后就可以在相应位置找到复制到本地的文件了:

5. Nsight Systems的基本使用

5.1 远程设备连接

虽然我们这次实践中,并没有涉及到远程的SSH连接,但Nsight Systems本身的远程连接还是很有用的。

进入软件会自带一个Project 1,直接点击右侧小扳手,然后点击按钮,创建一个新连接。

输入远程设备的地址,以及用户名,然后根据提示输入密码,连接即可。

该软件有个自带的bug,就是新建的Project无法删除,但并不影响使用,比如我自己再左侧创建的Project 2。

5.2 打开本地文件

与很多软件一样,Nsight Systems打开本地文件非常简单。直接点击file→open,然后选择刚刚拉取到本地的文件即可。

5.3 界面介绍与基本操作

5.3.1 报告界面切换

点击左上角的按钮,可切换不同的报告页面,比如当前是Timeline页面,也是最常见的页面。

右侧区域显示的就是在软件执行过程中,各个资源的占用情况(CPU和GPU等)。

Analysis Summary页面也是非常常用的,是以文本的形式,对整个软件的运行情况做了一个非常详细的分析。

5.3.2 Timeline缩放与平移

鼠标左键滑动选择需要放大的区域,并双击,便可放大锁定区域,便于查看细节。

鼠标右击,选择Reset Zoom即可复原到最开始的大小。

或者像很多其他软件一样,Cotr+🖱️鼠标滚轮,也可以实现整体的横向缩放。

🌈 平移操作:

方法1:直接通过键盘上的⬅️和➡️进行控制。

方法2:鼠标拖动底部的水平滚动条进行操作。

6. 总结与展望

本文完整记录了 Nsight Systems 的零基础上手流程,包括 Jetson 设备端离线采集、文件拉取、GUI 视图操作。整体来说,Nsight Systems和地平线OE工具链编译生成的html文件很像。只不过地平线的OE工具链并不依赖端侧的硬件。

更多关于地平线OE工具链的使用方法请移步:

从零上手地平线 OE 工具链:ResNet50 的 PTQ 量化与精度验证

从零上手地平线 OE 工具链:YOLOv3 的 PTQ 量化与精度验证

后面有机会的话会更新 Nsight Systems远程直连调优的相关内容,敬请关注!!! 💨 💦 🎶 🎵 🔥

相关推荐
Anhty5 小时前
2026九月最新变声器测评:iOS安卓双端适配,低延迟运行更稳定
android·人工智能·功能测试·ios·智能手机
DisonTangor5 小时前
【腾讯混元雪耻归来】 Hy4 preview:770B 参数 MoE 旗舰模型,1M 上下文全面开源
人工智能·算法·开源·aigc·腾讯云·腾讯云ai代码助手
luckystar513~6 小时前
Hermes 实战 :系列收官/生产化——安全审计与运维
运维·人工智能·安全·agent·智能体开发·hermes实战·智能体网关
Mickey Q6 小时前
【深度学习】数值稳定性和模型初始化
人工智能·深度学习
冬奇Lab6 小时前
Code Agent 解剖(20):从零扩展——给 agent 加一个新工具
人工智能·开源
论文复现现场6 小时前
RTX 4090 24GB 能跑 Qwen3.8-27B 吗?单卡显存计算与云端部署指南
人工智能·python·云计算·llama·gpu算力
七牛云行业应用6 小时前
Harness Engineering 是什么:从“写提示词“到“设计 Agent 边界“的工程方法论
人工智能·agent·ai编程
科技拓维者6 小时前
短视频配音音效去哪里找比较好?短视频创作者音效指南
人工智能·音视频
cjy0001116 小时前
2026AI 产品如何从一次性 Demo 变成可重复使用的业务工具?
前端·人工智能·fde
大模型码小白6 小时前
AI大模型接入SDK:人工智能核心概念与发展史
大数据·运维·人工智能·安全·prompt