解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
在世修行1 分钟前
深度图像数据格式与RAW文件解析:从字节到三维世界的桥梁
人工智能·数码相机·计算机视觉
chen_zn952 分钟前
《VLA 系列》RLT | RL Token | 轻量 Actor-Critic | 在线强化学习与源码解析
人工智能·强化学习·具身智能·vla
fthux11 分钟前
装闭 RenoPit 源码解析(10):AI如何审查装修合同与报价单
人工智能·ai·开源·github·open source·renopit
AI_AGENT_DEV_AI29 分钟前
AI 智能体的开发费用
人工智能
zhenaibo52132 分钟前
摘要、研究背景、文献综述AI风险高,怎么优化?
人工智能·深度学习·自然语言处理
Eloudy34 分钟前
预词力:LLM 的唯一形式化能力
人工智能·算法·agent
XDevelop AI智能应用软件开发40 分钟前
AI演进下的“第五次软件危机”与软件工程重塑
人工智能·软件工程·ai编程·软件危机
企鹅的企1 小时前
2027北京AI健康科技与智慧医疗展官方从速锁定
人工智能·科技·机器人
中科高级技工学校1 小时前
乌鲁木齐美术艺考技校实践分享
人工智能·python
小相会自律1 小时前
DeepSeek V4 Pro 正式版深度解析:Agent能力跃升、双生态API与峰谷定价全解读
人工智能