llama-factory微调报错:

报错信息

INFO\] \[utils.py:789:see_memory_usage\] CPU Virtual Memory: used = 81.51 GB, percent = 64.9% W0419 10:14:27.573000 108354 site-packages/torch/distributed/elastic/multiprocessing/api.py:897\] Sending process 108373 closing signal SIGTERM W0419 10:14:27.594000 108354 site-packages/torch/distributed/elastic/multiprocessing/api.py:897\] Sending process 108375 closing signal SIGTERM W0419 10:14:27.594000 108354 site-packages/torch/distributed/elastic/multiprocessing/api.py:897\] Sending process 108376 closing signal SIGTERM E0419 10:14:33.446000 108354 site-packages/torch/distributed/elastic/multiprocessing/api.py:869\] failed (exitcode: -9) local_rank: 1 (pid: 108374) of binary: /opt/conda/envs/llamaf/bin/python Traceback (most recent call last): File "/opt/conda/envs/llamaf/bin/torchrun", line 33, in sys.exit(load_entry_point('torch==2.5.1', 'console_scripts', 'torchrun')()) xxx xxx xxx torch.distributed.elastic.multiprocessing.errors.ChildFailedError: /home/LLaMA-Factory/src/llamafactory/launcher.py FAILED

由于看到CPU Virtual Memory 只加载到了64.9%,发现是内存不足。

解决方法:

bash 复制代码
# 创建分区路径
sudo mkdir -p /data/swap/
# 设置分区的大小
# bs=128M是块大小,count=64是块数量,
# 所以swap空间大小是bs*count=96GB
sudo dd if=/dev/zero of=/data/swap/swap0 bs=512M count=192
# 设置该目录权限
sudo chmod 0600 /data/swap/swap0
# 创建SWAP文件
sudo mkswap /data/swap/swap0
# 激活SWAP文件
sudo swapon /data/swap/swap0
# 查看SWAP信息是否正确
sudo swapon -s
相关推荐
2301_803934611 天前
Go语言如何做网络爬虫_Go语言爬虫开发教程【指南】
jvm·数据库·python
WL_Aurora1 天前
Python爬虫实战(六):新发地蔬菜价格数据采集.
爬虫·python
盲敲代码的阿豪1 天前
Python 入门基础教程(爬虫前置版)
开发语言·爬虫·python
weixin199701080161 天前
[特殊字符] 智能数据采集:数字化转型的“数据石油勘探队”(附Python实战源码)
开发语言·python
次元工程师!1 天前
LangFlow开发(三)—Bundles组件架构设计(3W+字详细讲解)
java·前端·python·低代码·langflow
t_hj1 天前
大模型微调
人工智能·python·深度学习
范范@1 天前
python基础-函数
开发语言·python
2301_803934611 天前
MySQL 字段类型选择规范指南
jvm·数据库·python
yaoxin5211231 天前
406. Java 文件操作基础 - 字符与二进制流
java·开发语言·python
一勺菠萝丶1 天前
macOS 安装 Python 包报错:`externally-managed-environment` 怎么解决?
python