解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
大囚长3 分钟前
AI意图预测与游戏全球同服对战的超光速零延迟探究
人工智能·游戏
吴声子夜歌18 分钟前
Kubernetes权威指南——Kubernetes安装配置指南(网络配置)
网络·容器·kubernetes
xcLeigh22 分钟前
FreeRTOS实战:用STM32+SEGGER打造工业级实时嵌入式系统
人工智能·stm32·单片机·嵌入式硬件·ai
考拉讲支付30 分钟前
延迟分账 / 核销分账的技术实现方案:服务完成后再分钱,到底怎么设计?
大数据·运维·人工智能·微信小程序·小程序·系统架构
闲云野鹤在人间31 分钟前
Kubernetes Pod Scheduler 详解
云原生·容器·kubernetes
ADAI_Bowen1 小时前
写文章 - 知乎
大数据·运维·人工智能
虎鲸不是鱼1 小时前
AI 自动化逆向(三十四)自建指令缓存:把分钟级查询压到秒级
人工智能·自动化·大模型·逆向·ai逆向
正经教主1 小时前
【FDE系列】阶段2:Day 42(UP详细版):Dockerfile 实战 — 把你的应用打包成镜像
人工智能·docker·fde
MarkHD1 小时前
超分辨率与图像放大:从ESRGAN的纹理重建到UltimateSDUpscale的4K分块实战
人工智能·深度学习·计算机视觉
武子康1 小时前
H3-World 的动作没按时发生,先检查时间线变成了什么
人工智能·后端·agent