CUDA编程:CUDA环境变量 CUDA Environment Variables

CUDA编程:CUDA环境变量 CUDA Environment Variables

变量 描述
设备枚举与属性
CUDA_VISIBLE_DEVICES MIG支持的GPU标识符的逗号分隔序列:MIG-/<GPU实例ID>/<计算实例ID> GPU标识符以整数索引或UUID字符串的形式给出。GPU UUID字符串应遵循nvidia-smi给出的相同格式,例如GPU-8932f937-d72c-4106-c12f-20bd9faed9f6。
CUDA_MANAGED_FORCE_DEVICE_ALLOC 0 或 1(默认值为 0) 强制驱动程序将所有托管分配放置在设备内存中。
CUDA_DEVICE_ORDER FASTEST_FIRST, PCI_BUS_ID,(默认值为 FASTEST_FIRST) FASTEST_FIRST 会使 CUDA 使用简单的启发式方法,按照从快到慢的顺序枚举可用的设备。PCI_BUS_ID 则根据 PCI 总线 ID 对设备进行排序。
编译
CUDA_CACHE_DISABLE 0 或 1(默认值为 0) 禁用(当设置为 1 时)或启用(当设置为 0 时)即时编译的缓存。当禁用时,不会向缓存中添加或从缓存中检索二进制代码。
CUDA_CACHE_PATH 文件路径 指定即时编译器缓存二进制代码的文件夹;默认值如下: 在 Windows 上:%APPDATA%\NVIDIA\ComputeCache 在 Linux 上:~/.nv/ComputeCache
CUDA_CACHE_MAXSIZE 整数(对于桌面/服务器平台,默认值为1 GiB,对于嵌入式平台,默认值为 256 MiB,最大值为 4 GiB) 指定即时编译器使用的缓存大小(以字节为单位)。
CUDA_FORCE_PTX_JIT 0 或 1(默认值为 0) 当设置为 1 时,强制设备驱动程序忽略应用程序中嵌入的任何二进制代码,并仅即时编译嵌入的 PTX 代码。
CUDA_DISABLE_PTX_JIT 0 或 1(默认值为 0) 当设置为 1 时,禁用嵌入的 PTX 代码的即时编译,并使用应用程序中嵌入的兼容二进制代码
CUDA_FORCE_JIT 0 或 1(默认值为 0) 当设置为 1 时,强制设备驱动程序忽略应用程序中嵌入的任何二进制代码,并始终使用即时编译来生成二进制代码。
CUDA_DISABLE_JIT 0 或 1(默认值为 0) 当设置为 1 时,禁用嵌入的 PTX 代码的即时编译,并使用应用程序中嵌入的兼容二进制代码
执行
CUDA_LAUNCH_BLOCKING 0 或 1(默认值为 0) 禁用(设置为 1 时)或启用(设置为 0 时)异步内核启动。
CUDA_DEVICE_MAX_CONNECTIONS 1 到 32(默认值为 8) 设置从主机到每个计算能力为 3.5 及以上的设备的计算和复制引擎并发连接(工作队列)的数量。
CUDA_AUTO_BOOST 0 或 1 覆盖 nvidia-smi 的 --auto-boost-default 选项设置的自动增强行为。
cuda-gdb (on Linux platform)
CUDA_DEVICE_WAITS_ON_EXCEPTION 0 或 1(默认值为 0) 当设置为 1 时,如果发生设备异常,CUDA 应用程序将停止,允许附加调试器进行进一步调试。
MPS service (on Linux platform)
CUDA_DEVICE_DEFAULT_PERSISTING_L2_CACHE_PERCENTAGE_LIMIT 百分比值(介于 0 - 100 之间,默认值为 0) 计算能力为 8.x 的设备允许将 L2 缓存的一部分设置为持久化全局内存数据访问。
模块加载
CUDA_MODULE_LOADING DEFAULT, LAZY, EAGER(默认值为 LAZY) 指定应用程序的模块加载模式。
CUDA_MODULE_DATA_LOADING DEFAULT, LAZY, EAGER(默认值为 LAZY) 指定应用程序的数据加载模式。.
预加载依赖库
CUDA_FORCE_PRELOAD_LIBRARIES 0 或 1(默认值为 0) 当设置为 1 时,强制驱动程序在初始化期间预加载 NVVM 和 PTX 即时编译所需的库。
CUDA Graphs
CUDA_GRAPHS_USE_NODE_PRIORITY 0 或 1 在图形实例化时覆盖 cudaGraphInstantiateFlagUseNodePriority 标志。当设置为 1 时,该标志将为所有图形设置,当设置为 0 时,该标志将为所有图形清除。
相关推荐
张较瘦_1 小时前
[论文阅读] 人工智能 + 软件工程 | 需求获取访谈中LLM生成跟进问题研究:来龙去脉与创新突破
论文阅读·人工智能
一 铭2 小时前
AI领域新趋势:从提示(Prompt)工程到上下文(Context)工程
人工智能·语言模型·大模型·llm·prompt
麻雀无能为力5 小时前
CAU数据挖掘实验 表分析数据插件
人工智能·数据挖掘·中国农业大学
时序之心5 小时前
时空数据挖掘五大革新方向详解篇!
人工智能·数据挖掘·论文·时间序列
.30-06Springfield6 小时前
人工智能概念之七:集成学习思想(Bagging、Boosting、Stacking)
人工智能·算法·机器学习·集成学习
说私域7 小时前
基于开源AI智能名片链动2+1模式S2B2C商城小程序的超级文化符号构建路径研究
人工智能·小程序·开源
永洪科技7 小时前
永洪科技荣获商业智能品牌影响力奖,全力打造”AI+决策”引擎
大数据·人工智能·科技·数据分析·数据可视化·bi
shangyingying_17 小时前
关于小波降噪、小波增强、小波去雾的原理区分
人工智能·深度学习·计算机视觉
书玮嘎8 小时前
【WIP】【VLA&VLM——InternVL系列】
人工智能·深度学习
猫头虎8 小时前
猫头虎 AI工具分享:一个网页抓取、结构化数据提取、网页爬取、浏览器自动化操作工具:Hyperbrowser MCP
运维·人工智能·gpt·开源·自动化·文心一言·ai编程