解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
锋行天下31 分钟前
Langgraph HITL 中断运行,用户输入后输出打字效果
人工智能·python
ZhengEnCi36 分钟前
agent 为什么需要自进化:从静态模型到经验驱动的持续成长
人工智能
QXWZ_IA43 分钟前
RTK平面很准、高程总飘,问题出在哪
人工智能
Ferries1 小时前
用 WorkBuddy+DeepSeek 跑了30天自动矩阵,事情没那么简单
人工智能·aigc·vibecoding
用户837133200761 小时前
AI总是会忘记细节咋办?我用GitHub实现外部记忆管理
人工智能·github
谁在黄金彼岸1 小时前
OCR 方案对比:本地多模态可行吗?
人工智能
IT_陈寒1 小时前
React的useEffect依赖数组把我坑惨了
前端·人工智能·后端
大模型真好玩1 小时前
DeepSeek Harness 插件的服务与事件监听详解
人工智能·agent·deepseek
迪菲赫尔曼1 小时前
【基础篇 11】把官方源码放到服务器:版本、解压层级和安装位置,一次弄清楚
运维·服务器·开发语言·人工智能·python·yolo·目标检测
阿里云大数据AI技术1 小时前
阿里云DLF年度发布:Agentic Lake全模态 AI 数据湖底座
人工智能