解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
xqqxqxxq9 分钟前
AI Agent学习:用户记忆系统(李博杰《深入理解 AI Agent》3.1观后总结)
人工智能·学习
临床数据科学和人工智能兴趣组12 分钟前
R Markdown 如何写
人工智能·机器学习·数据分析·r语言·r语言-4.2.1
粉色大象17 分钟前
线性代数基础知识点
人工智能·线性代数·机器学习
腾讯云大数据18 分钟前
腾讯云智能数据湖计算AI DLC发布会回顾:Spark+Ray一体化,面向Agent重构数据底座
人工智能·spark·腾讯云
半兽先生24 分钟前
2026年RAG系统主流开源文档解析工具选型指南:PaddleOCR、MinerU、LiteParse、HunyuanOCR、Apache Tika 全面对比
人工智能·python·机器学习·ai·开源
laboratory agent开发25 分钟前
知识库已更新,智能体为何还在用旧答案回复用户
人工智能
云端漫步198729 分钟前
HarmonyOS NEXT AI 智能生活助手:AI 翻译助手
人工智能·华为·生活·harmonyos
数智化转型推荐官30 分钟前
泛微e-nation政务办公平台:AI驱动数智政务一网协同方案解析
人工智能·政务
fai厅的秃头姐!2 小时前
OpenCV实战篇
人工智能·opencv·计算机视觉
TMT星球2 小时前
虎鲸文娱春苗编剧计划全面升级,已孵化20个剧本进入前期开发
大数据·人工智能