CUDA编程:CUDA环境变量 CUDA Environment Variables

CUDA编程:CUDA环境变量 CUDA Environment Variables

变量 描述
设备枚举与属性
CUDA_VISIBLE_DEVICES MIG支持的GPU标识符的逗号分隔序列:MIG-/<GPU实例ID>/<计算实例ID> GPU标识符以整数索引或UUID字符串的形式给出。GPU UUID字符串应遵循nvidia-smi给出的相同格式,例如GPU-8932f937-d72c-4106-c12f-20bd9faed9f6。
CUDA_MANAGED_FORCE_DEVICE_ALLOC 0 或 1(默认值为 0) 强制驱动程序将所有托管分配放置在设备内存中。
CUDA_DEVICE_ORDER FASTEST_FIRST, PCI_BUS_ID,(默认值为 FASTEST_FIRST) FASTEST_FIRST 会使 CUDA 使用简单的启发式方法,按照从快到慢的顺序枚举可用的设备。PCI_BUS_ID 则根据 PCI 总线 ID 对设备进行排序。
编译
CUDA_CACHE_DISABLE 0 或 1(默认值为 0) 禁用(当设置为 1 时)或启用(当设置为 0 时)即时编译的缓存。当禁用时,不会向缓存中添加或从缓存中检索二进制代码。
CUDA_CACHE_PATH 文件路径 指定即时编译器缓存二进制代码的文件夹;默认值如下: 在 Windows 上:%APPDATA%\NVIDIA\ComputeCache 在 Linux 上:~/.nv/ComputeCache
CUDA_CACHE_MAXSIZE 整数(对于桌面/服务器平台,默认值为1 GiB,对于嵌入式平台,默认值为 256 MiB,最大值为 4 GiB) 指定即时编译器使用的缓存大小(以字节为单位)。
CUDA_FORCE_PTX_JIT 0 或 1(默认值为 0) 当设置为 1 时,强制设备驱动程序忽略应用程序中嵌入的任何二进制代码,并仅即时编译嵌入的 PTX 代码。
CUDA_DISABLE_PTX_JIT 0 或 1(默认值为 0) 当设置为 1 时,禁用嵌入的 PTX 代码的即时编译,并使用应用程序中嵌入的兼容二进制代码
CUDA_FORCE_JIT 0 或 1(默认值为 0) 当设置为 1 时,强制设备驱动程序忽略应用程序中嵌入的任何二进制代码,并始终使用即时编译来生成二进制代码。
CUDA_DISABLE_JIT 0 或 1(默认值为 0) 当设置为 1 时,禁用嵌入的 PTX 代码的即时编译,并使用应用程序中嵌入的兼容二进制代码
执行
CUDA_LAUNCH_BLOCKING 0 或 1(默认值为 0) 禁用(设置为 1 时)或启用(设置为 0 时)异步内核启动。
CUDA_DEVICE_MAX_CONNECTIONS 1 到 32(默认值为 8) 设置从主机到每个计算能力为 3.5 及以上的设备的计算和复制引擎并发连接(工作队列)的数量。
CUDA_AUTO_BOOST 0 或 1 覆盖 nvidia-smi 的 --auto-boost-default 选项设置的自动增强行为。
cuda-gdb (on Linux platform)
CUDA_DEVICE_WAITS_ON_EXCEPTION 0 或 1(默认值为 0) 当设置为 1 时,如果发生设备异常,CUDA 应用程序将停止,允许附加调试器进行进一步调试。
MPS service (on Linux platform)
CUDA_DEVICE_DEFAULT_PERSISTING_L2_CACHE_PERCENTAGE_LIMIT 百分比值(介于 0 - 100 之间,默认值为 0) 计算能力为 8.x 的设备允许将 L2 缓存的一部分设置为持久化全局内存数据访问。
模块加载
CUDA_MODULE_LOADING DEFAULT, LAZY, EAGER(默认值为 LAZY) 指定应用程序的模块加载模式。
CUDA_MODULE_DATA_LOADING DEFAULT, LAZY, EAGER(默认值为 LAZY) 指定应用程序的数据加载模式。.
预加载依赖库
CUDA_FORCE_PRELOAD_LIBRARIES 0 或 1(默认值为 0) 当设置为 1 时,强制驱动程序在初始化期间预加载 NVVM 和 PTX 即时编译所需的库。
CUDA Graphs
CUDA_GRAPHS_USE_NODE_PRIORITY 0 或 1 在图形实例化时覆盖 cudaGraphInstantiateFlagUseNodePriority 标志。当设置为 1 时,该标志将为所有图形设置,当设置为 0 时,该标志将为所有图形清除。
相关推荐
中杯可乐多加冰10 分钟前
【AI落地应用实战】AIGC赋能职场PPT汇报:从效率工具到辅助优化
人工智能·深度学习·神经网络·aigc·powerpoint·ai赋能
东临碣石8220 分钟前
【AI论文】BlenderFusion:基于三维场景的视觉编辑与生成式合成
人工智能
正在走向自律21 分钟前
第二章-AIGC入门-开启AIGC音频探索之旅:从入门到实践(6/36)
人工智能·aigc·音视频·语音识别·ai音乐·ai 音频·智能语音助手
Trent198527 分钟前
影楼精修-智能修图Agent
图像处理·人工智能·计算机视觉·aigc
烟锁池塘柳028 分钟前
【大模型】解码策略:Greedy Search、Beam Search、Top-k/Top-p、Temperature Sampling等
人工智能·深度学习·机器学习
盼小辉丶44 分钟前
PyTorch实战(14)——条件生成对抗网络(conditional GAN,cGAN)
人工智能·pytorch·生成对抗网络
Allen_LVyingbo1 小时前
数智读书笔记系列035《未来医疗:医疗4.0引领第四次医疗产业变革》
人工智能·经验分享·笔记·健康医疗
zzc9212 小时前
时频图数据集更正程序,去除坐标轴白边及调整对应的标签值
人工智能·深度学习·数据集·标签·时频图·更正·白边
isNotNullX2 小时前
什么是数据分析?常见方法全解析
大数据·数据库·数据仓库·人工智能·数据分析
riveting2 小时前
明远智睿H618:开启多场景智慧生活新时代
人工智能·嵌入式硬件·智能硬件·lga封装·3506