CUDNN下载&配置

目录

简介

下载

配置


简介

cuDNN(CUDA Deep Neural Network library)是NVIDIA开发的一个深度学习GPU加速库,旨在提供高效、标准化的原语(基本操作)来加速深度学习框架(如TensorFlow、PyTorch等)在NVIDIA GPU上的运算。主要性能体现在以下四点:

  • 优化深度学习操作:cuDNN提供了为深度学习任务高度优化的函数,如卷积、池化、归一化和激活函数等。这些函数经过精心设计和优化,可以在NVIDIA的GPU硬件上实现最佳性能。
  • 利用GPU并行处理能力:cuDNN充分利用了NVIDIA GPU的并行处理能力,从而大大加速了神经网络的训练和推断过程。
  • 动态优化:cuDNN能够根据输入数据的大小和网络结构,自动选择最合适的计算算法,以实现最佳性能。
  • 支持多种计算精度:cuDNN支持FP32(32位浮点数)和FP16(16位浮点数)等多种计算精度。使用低精度计算可以在不显著降低模型精度的情况下,加速计算并减少显存占用。

下载

进入NVIDIA Developer官网 cuDNN 部分

cuDNN 9.4.0 Downloads | NVIDIA Developerhttps://developer.nvidia.com/cudnn-downloads?target_os=Windows&target_arch=x86_64&target_version=Agnostic&cuda_version=12

依据系统情况和CUDA版本选择合适的cuDNN版本,Download Base Installer

下载完成后解压压缩包即可得到主要文件

配置

下载完成后cuDNN包含bin、include、lib三个文件夹

需要将bin、include、lib三个文件夹内的cuDNN配置文件对应放入CUDA根目录下的bin、include、lib文件夹中

参考CUDA根目录路径:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.1

以bin文件夹为例,将对应的cudnnxxxx.dll文件全部放入即可

相关推荐
basketball61616 天前
AI Infra 硬件体系与编程模型:17. CUDA编程基础:底层驱动 API 调用
人工智能·microsoft·nvidia·cuda
fpcc17 天前
并行编程实战——CUDA编程的pipelines
c++·cuda
basketball61619 天前
AI Infra 硬件体系与编程模型:14. CUDA编程基础:事件与精确性能测量
人工智能·nvidia·cuda
kyle~19 天前
推理部署---CUDA 执行模型(SM、Block、Warp 与 SIMT)
人工智能·nvidia·cuda
June`19 天前
如何组织一个并行程序
开发语言·cuda
basketball61619 天前
AI Infra 硬件体系与编程模型:15. CUDA编程基础:混合精度计算
人工智能·nvidia·cuda
June`19 天前
CUDA执行模型深入刨析
c++·人工智能·cuda
June`20 天前
CUDA程序效率如何计算以及工具如何使用
算法·cuda
插件开发20 天前
CUDA11-VS2015安装-工具链测试-Helloworld程序
c++·gpu·cuda
虎妞050021 天前
PyTorch 2.0 生产级部署与性能优化指南
pytorch·深度学习·ai·模型部署·cuda