1. 问题背景
在远程 Linux 服务器上通过 pip 安装 PyTorch 时,安装过程突然中断并报错,安装其他的包都没有问题。观察发现下载时中断,pytorch包确实挺大的。
虽然数据盘(如 /data)有充足的剩余空间(1.0T+),但 MobaXterm 右下角监控显示磁盘使用率已达 97% ,一旦开始安装大型包,使用率瞬间飙升至 100% 并报错。
2. 报错信息
核心错误为 OSError: [Errno 28] No space left on device,具体堆栈如下:
Exception ignored in: <function _TemporaryFileCloser.__del__ ...>
...
OSError: [Errno 28] No space left on device
ERROR: Exception:
Traceback (most recent call last):
...
File ".../pip/_vendor/urllib3/response.py", line 455, in _error_catcher
raise ProtocolError("Connection broken: %r" % e, e)
pip._vendor.urllib3.exceptions.ProtocolError: ("Connection broken: OSError(28, 'No space left on device')", ...)
3. 原因分析
- 分区误解 :服务器的
/data目录虽然空间大,但它是独立挂载的分区。而用户的家目录(~)、缓存目录(~/.cache)以及系统临时目录(/tmp)通常位于**根分区(/)**下。可能由于服务器的分区策略给家目录分的内存已经爆满,因此无法存入。 - 默认行为 :
pip在安装过程中,会先将巨大的安装包下载到缓存目录,并在/tmp下进行解压和编译。PyTorch 包体积巨大,瞬间占满了根分区的剩余空间。 - 结果 :根分区(
/)被写满,导致无法写入临时文件,从而抛出Errno 28错误。
4. 解决方案
通过清理缓存 + 重定向临时目录,将安装过程中的大文件操作指向空间充足的数据盘。
第一步:清理现有缓存(可选但推荐)
先释放一些根分区空间,确保能执行后续命令:
rm -rf ~/.cache/pip
rm -rf ~/.cache/conda
# 若有权限且确认安全,可清理系统临时文件
# sudo rm -rf /tmp/*
第二步:创建数据盘缓存目录
在空间充足的 /data 目录下创建专用文件夹:
mkdir -p /data/你的用户名/pip_cache
mkdir -p /data/你的用户名/tmp
第三步:设置环境变量并安装(关键步骤)
利用 export TMPDIR 指定临时解压路径,配合 pip 的 --cache-dir 参数,双管齐下避开根目录限制。
执行命令:
# 1. 导出临时目录变量到数据盘
export TMPDIR=/data/你的用户名/tmp
# 2. 执行安装,指定缓存目录到数据盘
pip install torch==x.x.x torchvision==x.x.x --cache-dir=/data/你的用户名/pip_cache
注意 :请根据实际需要的 PyTorch 版本和 CUDA 版本调整
pip install后的参数。
5. 后续处理与注意事项
-
恢复环境变量 :
安装完成后,建议取消
TMPDIR的设置,以免干扰其他依赖默认/tmp(通常是内存盘,速度更快)的程序运行。- 方法一:直接关闭当前终端窗口,重新登录。
- 方法二:在当前窗口执行
unset TMPDIR或export TMPDIR=/tmp。
-
为何这样做有效?
--cache-dir:告诉pip把下载的安装包存在数据盘,不占根目录。TMPDIR:告诉 Python 和系统工具,在解压、编译时的临时文件也存放在数据盘,防止/tmp爆满。
-
适用场景 :
此方法不仅适用于安装 PyTorch,也适用于安装任何体积巨大、容易撑爆根目录的 Python 库或进行大型编译任务。