解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
在世修行1 分钟前
第17篇:晶粒尺寸统计算法 — 从像素到微米的转换
人工智能·计算机视觉·像素转换
万点科技码农8 分钟前
2025年7月11日行业热点解读:定制软件开发与AI工作流重构一体化趋势
大数据·人工智能·重构
JL1517 分钟前
Agent工程-为什么Agent必须有观测和Tracing
服务器·网络·人工智能·安全
用户69549770994927 分钟前
第 8 章 vLLM/LMDeploy/Triton 适配 DeepSeek 源码改造
人工智能
波动几何30 分钟前
角色生成器character-builder
人工智能
dayuOK630730 分钟前
AI Agent市场爆发:从“试一试”到“离不开”,只用了不到一年
大数据·人工智能·ai作画·新媒体运营·aigc·ai写作
不会C语言的男孩30 分钟前
Docker 在嵌入式设备中的常用玩法
运维·docker·容器
茶马古道的搬运工32 分钟前
AI 深度技能之-解读Hermes Agent(四)- Hermes Kanban 多 Agent 流水线
人工智能
海外数字观察家43 分钟前
马来西亚商贸数字化落地指南:跨境批发、连锁零售首选ERP方案(品未云)
大数据·人工智能·马来西亚进销存系统·马来西亚收银系统·马来西亚erp系统·马来西亚仓库管理系统
珠海西格电力43 分钟前
数据采集与治理:零碳园区管理系统的 “生命线”
大数据·人工智能·算法·架构·能源