解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
小羊没烦恼!2 小时前
AI转型不是技术问题,是组织问题。
大数据·人工智能·ai
Omics Pro3 小时前
Agentic AI正在重构整个生物信息学工作流
大数据·数据库·人工智能·机器学习·语言模型·自然语言处理·重构
Rauser Mack3 小时前
Vibe coding游戏实战:零代码编程五子棋小游戏
人工智能·python·游戏·html·prompt
凡科建站3 小时前
2026年7月在线考试平台搭建服务商前十有哪些?
大数据·人工智能
FriendshipT3 小时前
Ultralytics:解读PSABlock模块
人工智能·pytorch·python·深度学习·目标检测
minxihou3 小时前
TRINITY-Router: 用数据证伪LLM路由假设 - 8模型316题实验报告
人工智能·深度学习·语言模型·智能路由器
大象说3 小时前
在线AIGC检测的底层逻辑与技术落地误区
人工智能
科技林总5 小时前
EWC/KD/ILR/PL
人工智能
100个铜锣烧11 小时前
高级提示技术:Chain-of-Thought与ReAct——让大模型学会“思考”和“行动”
人工智能·大模型·提示词工程
JackHCC12 小时前
快手OneRetrieval:可编辑生成式电商召回
人工智能·机器学习