解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
知识汲取者4 分钟前
Superpowers 实战指南:用“方法论”驯服 AI 编程
人工智能
gs801404 分钟前
记一次多 Agent 架构在单节点 K8s 触发的 PID 耗尽与 Pod 驱逐(Evicted)大摸排
容器·架构·kubernetes
Rolei_zl21 分钟前
AIGC(生成式AI)试用 54 -- 简单代码解析
人工智能·aigc
CodeCaptain22 分钟前
遐思心智 (01):万古更新,AI在此
人工智能·程序人生·ai
ishangy23 分钟前
AI 视频分析系统平台如何解决港口管理痛点
人工智能·智慧港口·ai视觉监测·港口智能化·ai视觉安防·ai 视频分析平台·港口降本增效
王飞飞不会飞24 分钟前
macbert训练过程记录
人工智能·github
147API29 分钟前
OpenAI工作区Agent计费后,技术团队要补一张成本观测表
人工智能·chatgpt·openai
冷小鱼38 分钟前
Neo4j 深度解析:从原生图存储到 GraphRAG 的知识图谱革命
人工智能·知识图谱·neo4j
烟锁池塘柳041 分钟前
面板数据(Panel Data)、面板数据模型与面板数据回归详解
人工智能·数据挖掘·回归
bukeyiwanshui42 分钟前
20260701 k8s Metric Server
容器·贪心算法·kubernetes