解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
APTShark3 分钟前
Harness 约束是长出来的,不是写出来的 —— 二阶抽象与驾驭
人工智能
莫凡的博客3 分钟前
火山引擎-基础入门阶段细化实操案例
人工智能·php·火山引擎
秦先生在广东6 分钟前
Google/skills:Google 官方将工程实践「技能化」,以 Agent Skills 开放标准接入 AI 编程生态
人工智能
满怀冰雪8 分钟前
17-正则化方法:Dropout、权重衰减与过拟合控制
人工智能·python·深度学习·机器学习·paddlepaddle
m0_7494922211 分钟前
2026年仓储安防机器人选型横评:3款室外巡逻机器人仓库场景实测对比
人工智能
GEOshijie12319 分钟前
智能家居品牌做GEO推荐哪家供应商?品类词抢占案例复盘
人工智能·python·智能家居
HAYDENR23 分钟前
数据挖掘是什么?数据挖掘在实际业务中如何落地应用?
人工智能·数据挖掘
zhangjin112030 分钟前
NLP自然语言处理
人工智能·自然语言处理
天天爱吃肉821834 分钟前
行业笔记|高压连接器瞬态接触退化通用检测方法论
人工智能·笔记·python·功能测试·学习·汽车
程序员-李俞43 分钟前
MiniMax H3 深度拆解:全模态视频模型来了,AI 漫剧系统该如何重构?
人工智能·ai作画·重构·aigc·音视频·ai写作·画布