llama-factory微调报错:

报错信息

INFO\] \[utils.py:789:see_memory_usage\] CPU Virtual Memory: used = 81.51 GB, percent = 64.9% W0419 10:14:27.573000 108354 site-packages/torch/distributed/elastic/multiprocessing/api.py:897\] Sending process 108373 closing signal SIGTERM W0419 10:14:27.594000 108354 site-packages/torch/distributed/elastic/multiprocessing/api.py:897\] Sending process 108375 closing signal SIGTERM W0419 10:14:27.594000 108354 site-packages/torch/distributed/elastic/multiprocessing/api.py:897\] Sending process 108376 closing signal SIGTERM E0419 10:14:33.446000 108354 site-packages/torch/distributed/elastic/multiprocessing/api.py:869\] failed (exitcode: -9) local_rank: 1 (pid: 108374) of binary: /opt/conda/envs/llamaf/bin/python Traceback (most recent call last): File "/opt/conda/envs/llamaf/bin/torchrun", line 33, in sys.exit(load_entry_point('torch==2.5.1', 'console_scripts', 'torchrun')()) xxx xxx xxx torch.distributed.elastic.multiprocessing.errors.ChildFailedError: /home/LLaMA-Factory/src/llamafactory/launcher.py FAILED

由于看到CPU Virtual Memory 只加载到了64.9%,发现是内存不足。

解决方法:

bash 复制代码
# 创建分区路径
sudo mkdir -p /data/swap/
# 设置分区的大小
# bs=128M是块大小,count=64是块数量,
# 所以swap空间大小是bs*count=96GB
sudo dd if=/dev/zero of=/data/swap/swap0 bs=512M count=192
# 设置该目录权限
sudo chmod 0600 /data/swap/swap0
# 创建SWAP文件
sudo mkswap /data/swap/swap0
# 激活SWAP文件
sudo swapon /data/swap/swap0
# 查看SWAP信息是否正确
sudo swapon -s
相关推荐
java1234_小锋3 小时前
分享一套优质的基于Python的房屋数据分析预测系统(scikit-learn机器学习+Flask)
python·数据分析·scikit-learn
CCPC不拿奖不改名3 小时前
RAG基础:基于LangChain 的文本分割实战+文本分块
人工智能·python·langchain·知识库·改行学it·rag·向量库
青春不朽5123 小时前
TensorFlow 入门指南
人工智能·python·tensorflow
bioinfomatic3 小时前
对比学习基本原理——以DrugClip为例,从CLIP到DrugClip
人工智能·python
-To be number.wan3 小时前
Python数据分析:英国电商销售数据实战
开发语言·python·数据分析
细节处有神明4 小时前
开源数据之历史气象数据的获取与使用
人工智能·python·算法
小白开始进步4 小时前
JAKA Zu12 机械臂运动学算法深度解析(含可视化方案)
python·算法·numpy
2301_764441334 小时前
基于Genos模型的基因序列分析应用
人工智能·python
分享牛4 小时前
LangChain4j从入门到精通-11-结构化输出
后端·python·flask