高级 API 性能:同步

这篇文章最初发表在 NVIDIA 技术博客上。

图形编程中的同步是指协调和控制并发操作,以确保渲染任务的正确和可预测执行。 CPU 和 GPU 之间的不正确同步可能导致性能下降、比赛条件和视觉伪影。

推荐

  • 如果异步运行工作负载,请确保它们强调不同的 GPU 单元。例如,将带宽繁重的任务与数学繁重的任务配对。也就是说,使用 z-prepass 和 BVH 构建或后处理。
  • 始终验证异步实现在不同的体系结构中是否更快。
  • 异步工作可以属于不同的框架。使用此技术可以帮助找到更好的配对工作负载。
  • 等待并发出信号量/围栏的绝对最小值。每一个过量的信号量/围栏都可能在管道中引入一个气泡。
  • 使用 GPU 评测工具( NVIDIA Nsight Graphics 在 GPU trace 模式、 PIX 或 GPU View 中)查看工作重叠和围栏在不拖延一个或另一个队列的情况下配合得如何。
  • 为了避免额外的同步和资源障碍,可以在计算队列中进行异步复制/传输工作。

不推荐

  • 避免创建不会使用的队列。
    • 每个额外的队列都会增加处理的开销。
    • 由于操作系统调度程序的限制,除非启用了硬件加速的 GPU 调度,否则多个异步计算队列不会重叠。更多详细信息,请参阅硬件加速的 GPU 调度
  • 尽可能避免微小的异步任务并将其分组。耗时< 0 . 2 毫秒的异步工作负载不太可能显示出任何好处,因为这大约是解决硬件调度前围栏问题的时间。
  • 避免使用围栏来同步队列中的工作。根据规范,命令列表/缓冲区保证在命令队列中按提交顺序执行。
  • 不应使用信号灯/围栏代替资源屏障。它们要贵得多,而且支持不同的用途。
  • 不要实施占用率低的工作负载,以使其与图形队列上的更多工作保持一致。 GPU 功能可能会发生变化,占用率低的工作可能会变成拖尾,拖尾另一个队列。

阅读原文

相关推荐
云卷云舒___________2 天前
月之暗面Kimi K3发布2.8万亿参数模型、NVIDIA开源RTEB榜首嵌入模型、谷歌Gemini 3.5 Pro继续推迟 | 7月17日 AI日报
谷歌·nvidia·嵌入模型·月之暗面·ai日报·rteb·kimik3
张忠琳4 天前
【kubernetes】Node Feature Discovery 0.20.0-devel 源码深度解析 — 第四卷:CLI入口、工具链与全局架构总结
云原生·容器·架构·kubernetes·nvidia
时空无限4 天前
nvidia 显卡架构 Hopper、Ada 和 Blackwell 这些名字有啥规律或者意义吗
人工智能·nvidia
HyperAI超神经4 天前
数据集汇总丨英伟达开源Nemotron系列数据集,超10T tokens+40M 条后训练样本,覆盖数学推理/代码生成/多语言对话
人工智能·大模型·数据集·nvidia·预训练·代码生成·监督微调
IDIOT___IDIOT5 天前
一次重装 Ubuntu 系统经验操作记录
linux·ubuntu·docker·nvidia
该用户已不存在5 天前
英伟达开放 GLM-5.2 API 端点,免费的!一篇文章告诉你怎么零成本接入
ai编程·nvidia·chatglm (智谱)
明月醉窗台6 天前
C++ tensorrt部署时打包需要的依赖库
yolo·nvidia
zhuyonghou6 天前
DriveOS/SIPL 相机模组适配
nvidia·camera·sensor·drive orin·isx031
Vaeeeeeee7 天前
NVIDIA智能汽车技术实战营笔记——Alpamayo
自动驾驶·汽车·nvidia·nvidia智能汽车技术公开课·l4
XUHUOJUN10 天前
Azure Local GPU 部署与企业应用场景指南(下篇)
microsoft·架构·nvidia·azure local