虚拟环境配置实战-经验总结

项目:https://github.com/Peien429/BotDGT

requirements.txt:

复制代码
pytorch-lightning==2.0.4
torch==1.13.0
torch-cluster==1.6.1+pt113cu117
torch-geometric==2.1.0
torch-scatter==2.1.1+pt113cu117
torch-sparse==0.6.17+pt113cu117
torch-spline-conv==1.2.2+pt113cu117

直接使用pip install -r requirements.txt命令安装的时候,报了错,说找不到torch-cluster相对应的版本。

然后就分开安装。

复制代码
conda install pytorch torchvision pytorch-cuda -c conda-forge -y
conda install pyg -c pyg -y
conda install pytorch-lightning -y

总结:

  1. pip和conda各自安装的包各自看不到,所以容易出现冲突的情况,conda能看到所有自己安装的包,并且解决依赖和冲突的能力比pip强,所有尽量只使用conda来安装包,如果conda没有再使用pip来安装包。

  2. 使用命令conda install pytorch==1.13.0 torchvision==0.14.0 torchaudio==0.13.0 cudatoolkit=11.7 时默认安装的是cpu版本的torch。即使先conda install cudatoolkit=11.7conda install pytorch==1.13.0 torchvision==0.14.0 torchaudio==0.13.0 ,仍然下载的是cpu版本的torch。因为conda install命令在不指定特定频道时,依赖解析器会优先选择最容易安装的CPU版本包。要确保安装GPU版本,最可靠的方法是直接从PyTorch官方频道(-c pytorch)安装。官方频道会提供完整的、带CUDA构建的包。如conda install pytorch==1.13.0 torchvision==0.14.0 torchaudio==0.13.0 cudatoolkit=11.7 -c pytorch -c conda-forge。此外如果使用命令conda install pytorch torchvision pytorch-cuda也会下载gpu版本的torch,因为参数 pytorch-cuda,这是一个元数据包,专门用来告诉 conda 安装支持CUDA的PyTorch版本,但是pytorch-cuda 依赖于 cuda-cudart 等精确版本的 CUDA 组件,这些组件是 NVIDIA 官方维护的,所以要有-c nvidia/conda-forge 这两个官方频道否则可能会报错。

  3. conda install pyg -c pyg会安装 PyTorch Geometric(简称 PyG)及其核心依赖包。pyg是一个Conda元数据包它本身并不包含代码,而是一个"包裹"列表,用于指示 conda 自动安装一组相互兼容的包。包括torch-geometric, pyg-lib, torch-scatter, torch-sparse, torch-cluster, torch-spline-conv

  4. 如果想安装指定版本的pyg可以使用以下命令:

    pip install torch-scatter==2.1.1+pt113cu117 -f https://data.pyg.org/whl/torch-1.13.0+cu117.html
    pip install torch-sparse==0.6.17+pt113cu117 -f https://data.pyg.org/whl/torch-1.13.0+cu117.html
    pip install torch-cluster==1.6.1+pt113cu117 -f https://data.pyg.org/whl/torch-1.13.0+cu117.html
    pip install torch-spline-conv==1.2.2+pt113cu117 -f https://data.pyg.org/whl/torch-1.13.0+cu117.html

按照PyTorch Geometric官方建议,在安装好PyTorch后,使用 pip 并指向其官方的wheel仓库来安装是最可靠的方法。
-f https://data.pyg.org/whl/torch-1.13.0+cu117.html只适用于PyG(torch-geometric)扩展库

不能使用以下命令来安装这两个包:

复制代码
pip install torch-geometric==2.1.0+pt113cu117 -f https://data.pyg.org/whl/torch-1.13.0+cu117.html 
pip install pytorch-lightning==2.0.4+pt113cu117 -f https://data.pyg.org/whl/torch-1.13.0+cu117.html

首先 -f https://data.pyg.org/whl/torch-1.13.0+cu117.html只适用于PyG(torch-geometric)扩展库。而pytorch-lightning不是。

其次torch-geometricpytorch-lightning发布在PyPI官方仓库,而不是PyG的自定义库。PyPI有严格的版本号规范(可以是2.1.0,但不能是2.1.0+pt113cu117),但自定义仓库可以灵活处理。

  1. 这几个包的介绍

torch (PyTorch)

  • 深度学习核心框架,提供张量计算、自动微分、神经网络构建等基础功能
  • 核心功能:Tensor 运算(类似 NumPy,但支持 GPU);自动微分(autograd);神经网络模块(nn.Module);数据加载器(DataLoader)

pytorch-lightning

  • PyTorch 的高层封装,简化训练流程,提供最佳实践模板
  • 核心功能:自动化训练循环(无需手动写 for 循环);分布式训练支持;实验管理和日志(TensorBoard、WandB 等);Checkpoint 保存和恢复;超参数优化框架

torch-geometric(PyG)

  • 图神经网络(GNN)专用库,提供图数据处理和 GNN 模型实现
  • 核心功能:图数据结构(Data, Batch),标准 GNN 层(GCN, GAT, GraphSAGE 等),图数据转换和增强,常用图数据集

PyG的底层依赖:
torch-scatter :高效的散点操作,用于图神经网络中的节点聚合
torch-sparse :稀疏张量运算,高效处理图结构(邻接矩阵通常很稀疏)
torch-cluster :图聚类算法实现
torch-spline-conv:样条卷积实现,一种特殊的图卷积

包安装的顺序应该是从torch->pytorch-lightning

相关推荐
云和数据.ChenGuang2 天前
python对接mysql和模型类的故障
数据库·python·mysql·oracle·conda·virtualenv
Clarice__2 天前
VScode上的python使用教程
vscode·python·conda
存在即合理L2 天前
Windows中安装Anaconda后如何在powershell使用conda activate命令
windows·conda
m0_647057962 天前
PyCharm 2023.2.5 Conda Interpreter 解析失败问题排查与解决(macOS)
macos·pycharm·conda
YelloooBlue3 天前
深度学习 SOP: conda通过命令快速构建指定版本tensorflow gpu环境。
深度学习·conda·tensorflow
小舞O_o3 天前
CondaError: Run ‘conda init‘ before ‘conda activate‘
linux·python·conda
Clarice__4 天前
Anaconda安装、使用教程
windows·python·机器学习·conda·visual studio code
gsgbgxp4 天前
安装库是优先用conda还是pip
深度学习·ubuntu·conda·pip
玄同7655 天前
深入理解 SQLAlchemy 的 relationship:让 ORM 关联像 Python 对象一样简单
人工智能·python·sql·conda·fastapi·pip·sqlalchemy
chinesegf5 天前
Windows 系统中通过 Conda 「克隆」环境
windows·conda