解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:[launch.py:315:sigkill_handler] Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
Daydream.V1 小时前
Opencv——图片处理(二)
人工智能·opencv·计算机视觉
Jasmine8391 小时前
OpenClaw部署太难? Codex全流程零编码实现浏览器UI自动化
人工智能·测试工具·ui
AI2512242 小时前
AI视频生成器技术评测:运动质量与稳定性分析
人工智能·microsoft·音视频
脑极体2 小时前
从Sora惊恐到即梦反杀,中国的AI视频生成之路
人工智能
jeffsonfu2 小时前
神经网络为什么需要“深”?——浅谈表征学习的力量
人工智能·神经网络·表征学习
无心水3 小时前
【OpenClaw:实战部署】5、全平台部署OpenClaw(Win/Mac/Linux/云服务器)——10分钟跑通第一个本地AI智能体
java·人工智能·ai·智能体·ai智能体·ai架构·openclaw
AdMergeX3 小时前
行业热点资讯 | 网信办公布数据出境安全管理政策法规问答;搜狗输入法正式宣布全面AI化;百度文心助手入局春节AI战;
人工智能·安全·百度
夜影风3 小时前
WhisperLiveKit 深度解析:企业级实时语音转文本终极方案
人工智能·语音识别
70asunflower3 小时前
CUDA编程指南基础知识点总结(5)
c++·人工智能·cuda
有个人神神叨叨4 小时前
AI Coding 时代的企业级应用架构
人工智能·架构