解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
逐米时代7 分钟前
制造型企业AI智能体实施步骤详解:提升协同效率的实战指南
大数据·人工智能
NantongZhuoLIDa-Chen16 分钟前
电铸雾化片的制造工艺流程是怎样的?
人工智能·制造·电铸·精密电铸·电铸喷孔板
Sam092723 分钟前
AI Agent 沙箱怎么做:从文件、网络、工具到权限边界的工程实践
人工智能·ai
大嘴皮猴儿27 分钟前
跨境电商运营笔记:我是如何用工具解决多语言素材问题的
大数据·人工智能·新媒体运营·自动翻译·教育电商
JS菌29 分钟前
Skills 动态加载系统:让 AI Agent 按需获取领域知识
前端·人工智能·后端
赤龙ERP29 分钟前
赤龙一周观察 · 6月第2周
大数据·人工智能·ai·erp
qq_2915792534 分钟前
霍客引擎与电商图片AI:智能视觉营销的新范式
人工智能
JGDT_35 分钟前
ERP重塑与未来趋势:SAP的实践及大一统格局(上)
大数据·人工智能·安全·架构·开源