AutoDL平台租借GPU，创建transformers环境，使用VSCode SSH登录

一、AutoDl平台租用GPU

1.注册并登录AutoDl官网：https://www.autodl.com/home

2.选择算力市场，找到需要的GPU：

我这里选择3090显卡

3.这里我们就选择PyTorch

4.使用SSH终端连接

MobaXterm比较好用，这里作为演示

确定好了，进去输入密码，就可以使用了

二、创建transformers环境

1.激活conda的base环境

复制代码

conda -V

conda环境意见安装完成

在MobaXterm终端输入命令

复制代码

vim  ~/.bashrc

并在该文件输入

复制代码

source /root/miniconda3/etc/profile.d/conda.sh

保存退出后，输入bash刷新

复制代码

#1、执行：
conda init
#2、刷新：
bash
#3、重新激活：
conda activate base

激活conda的base环境

2.创建单独环境

复制代码

conda create -n transformers python=3.12 -y

创建一个名叫transformers的环境

复制代码

conda info --envs

查看存在的所有环境

复制代码

conda activate transformers

激活transformers环境

复制代码

nvidia-smi

(transformers) root@autodl-container-508440a921-fbd62d04:~# nvidia-smi
Mon Mar 10 10:41:48 2025
+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 550.67                 Driver Version: 550.67         CUDA Version: 12.4     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce RTX 4090 D      On  |   00000000:17:00.0 Off |                  Off |
| 30%   35C    P0             31W /  425W |       1MiB /  24564MiB |      0%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

+-----------------------------------------------------------------------------------------+
| Processes:                                                                              |
|  GPU   GI   CI        PID   Type   Process name                              GPU Memory |
|        ID   ID                                                               Usage      |
|=========================================================================================|
|  No running processes found                                                             |
+-----------------------------------------------------------------------------------------+

查看CUDA Version

更改pip源

复制代码

pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

查看pytorch官网

https://pytorch.org/get-started/locally/

选择这条命令，下载到transformers环境中

复制代码

pip3 install torch torchvision torchaudio

安装transformers相关库

复制代码

pip install transformers datasets evaluate peft accelerate gradio optimum sentencepiece
pip install scikit-learn pandas matplotlib tensorboard nltk rouge

测试是否安装成功

复制代码

# 测试torch安装是否成功
(transformers) root@autodl-container-508440a921-fbd62d04:~# python
Python 3.12.9 | packaged by Anaconda, Inc. | (main, Feb  6 2025, 18:56:27) [GCC 11.2.0] on linux
Type "help", "copyright", "credits" or "license" for more information.
>>> import torch
>>> print(torch.__version__)
2.6.0+cu124
>>> print(torch.cuda.is_available())
True

#验证transformers库安装是否成功
>>> from transformers import *
>>>

虚拟环境添加到可选的kernel

复制代码

conda install ipykernel
ipython kernel install --user --name=transformers

可以看到transformers环境已经更新到服务器的jupyter上了

三、使用VSCode SSH登录

使用VSCode连接AutoDL租用的显卡服务器上

下载Remote-SSH插件

点击左下角蓝色图标

Connect to Host

输入登录指令

再次点击左下角图标

将当前窗口连接到主机

就可以创建项目了