解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
云边云科技_云网融合2 分钟前
金融医疗混合云组网如何满足数据安全与合规要求?
大数据·人工智能·物联网
开开心心就好3 分钟前
视频播放器完美解码集成三款播放器切换使用
前端·人工智能·智能手机·电脑·音视频·virtualenv·pygame
hzcj8889 分钟前
汇正财经:出海数据向好,创新药热度高
大数据·人工智能
鲜于言悠90511 分钟前
一文讲透Agent评测:从短程评测走向长程评测
人工智能
@Mr_LiuYang20 分钟前
大模型提示注入攻防实验--《深入理解 AI Agent:设计原理与工程实践 》实验2-5
人工智能·大模型·提示词注入·攻防实验
Qyr9926 分钟前
重载机器人传输单元:工业自动化的“移动基石”与市场增长新引擎
人工智能
leory32 分钟前
01 - Function Calling 机制
人工智能
Akir.weiwen37 分钟前
① 语义令牌表:把语义概念编码成离散枚举
人工智能·设计规范·语义
一次旅行38 分钟前
ViT/CLIP/LLaVA/GPT-4V/VideoLLM多模态架构全解:原理仿真+工业落地选型+完整推理代码
人工智能·算法·架构
武子康39 分钟前
前台语音与后台任务为什么要做双循环:从委派到结果新鲜度
人工智能·chatgpt·agent