解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
Frag0ut几秒前
Chrome Canary 最新实验功能:AI Mode、按设备筛选历史记录与 Gemini 自动改密
前端·人工智能·chrome·dev·beta·canary·最新实验功能
minji...1 分钟前
LangGraph-AI智能体开发框架 - LangGraph 入门案例1 : 智能快递配送系统
人工智能·python·ai·langchain·大语言模型·agent·langgraph
xiangzhihong83 分钟前
随心陪玩游戏全栈系统
人工智能
Είναι η κοπέλα6 分钟前
PyTorch 安装与验证
人工智能·pytorch·python
“AI国潮设计-小江”9 分钟前
Python实战 | SDXL批量生成“潮汕英歌舞”国潮甜品IP,附核心Prompt与商用授权思路
开发语言·人工智能·python·prompt·aigc
勤劳X码农10 分钟前
2026年汽车解说AI配音软件怎么选?
人工智能·汽车
勤劳X码农10 分钟前
2026年游戏解说AI配音软件怎么选?
人工智能·游戏
小白的码BUG之路13 分钟前
Docker -- 构建ruoyi-system镜像
运维·docker·容器
小尹哥-程序员14 分钟前
第6集:RAG检索不准?3个参数调优路线图
人工智能·spring
盘古开天166616 分钟前
PPO算法原理详解(上):从策略梯度到近端策略优化的演进之路
人工智能·算法·机器学习·强化学习·ppo