CUDA
从CUDA Toolkit Archive下载相应版本的离线安装包，这里以11.7为例。
打开安装包，在安装选项 选择自定义 模式，点击下一步。
在自定义安装选项 中，仅选择CUDA 组件（其中Nsight 相关组件用于代码调试与性能分析），若未安装显卡驱动，选择NVIDIA GeForce Experience components 并点击下一步。
可能会出现如下图提示，警告你未安装Visual Studio (可参考【Windows 开发环境配置------C++ 篇】VSCode+MSVC/MinGW/Clangd/LLDB+Xmake 安装)，这里打勾点击下一步即可。
安装完成后会自动添加到系统的PATH环境变量，无需手动添加。
cuDNN
从cuDNN Archive下载相应版本的安装包，这里以8.4.1.50为例。
下载完成后，将解压缩包中的文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50目录下。
将C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\bin添加到系统的PATH环境变量。
Zlib
Zlib是cuDNN所需的数据压缩软件库。在ZLib网站下载32bit或64bit的zlib123dll.zip（一般为64bit）。
下载完成后，将解压缩包中的zlibwapi.dll文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\bin目录下，zlibwapi.lib文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\lib目录下。
TensorRT
从NVIDIA TensorRT 8.x Download下载相应版本的安装包，这里以8.4.2.4为例。
下载完成后，将解压缩包中的文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4目录下。
将C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\bin添加到系统的PATH环境变量。
TensorRT Python 包安装
在终端打开C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\python目录，以python 3.10为例，输入pip install tensorrt-8.4.2.4-cp310-none-win_amd64.whl即可安装。
ONNX GraphSurgeon 包安装
在终端打开C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\onnx_graphsurgeon目录，输入pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl即可安装。
文章转载自：laugh12321