解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
dreamread3 分钟前
2026起名参考八字排盘工具怎么选:看五行提示、候选记录和理性边界
人工智能·软件工具·传统文化
写代码像蔡徐抻6 分钟前
从外星人到大模型,语言如何泄露了人类的思维方式。
人工智能
潮起鲸落入海9 分钟前
Kubernetes Metric Server, Quota and Limits
容器·kubernetes
云烟成雨TD16 分钟前
LangFlow 1.x 系列【7】工作流创建与部署指南
人工智能·python·agent
梦想的颜色16 分钟前
Docker 容器化本地部署 Claude Code 完整硬核教程|隔离沙盒 + 国产模型直连 + 持久化 Skill
运维·容器·ai 工程化·沙盒隔离·docker 本地部署·claude code硬核实战·国内国产模型接入
GAOJ_K21 分钟前
高速工况钢珠离心力如何影响螺杆磨损与运行平顺性?
人工智能·无人机·制造
VIP_CQCRE37 分钟前
用 Ace Data Cloud 快速接入 Kling Motion:让图片按指定动作生成视频
人工智能·api·ai视频·kling·acedatacloud
namexingyun40 分钟前
Scaling Law bug实战启示:从“虚胖“到“精瘦“的算力效率革命
开发语言·网络·人工智能·bug·ai编程
KaMeidebaby41 分钟前
卡梅德生物技术快报|纳米抗体技术全套实操流程:AFB1 全合成文库淘选 + 分子对接定点突变参数手册
人工智能·python·tcp/ip·算法·机器学习
渣渣盟1 小时前
Docker 运维常用命令手册(含扩容与实战)
运维·docker·容器