解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
ZZZMMM.zip4 分钟前
竞品分析框架-基于鸿蒙的AI竞品分析应用开发实践
人工智能·华为·harmonyos·鸿蒙系统
2601_9583529012 分钟前
用 A-59F 做扩音喊话产品:从啸叫噩梦到“随便开音量都不叫“的工程实战指南
人工智能·回声消除·语音模块·通话对讲·拾音降噪
盟接之桥15 分钟前
跨越数字鸿沟,重塑全球信任:盟接之桥EDI如何以长期主义赋能中国制造出海
网络·人工智能·安全·汽车·制造
KaMeidebaby30 分钟前
卡梅德生物技术快报|如何制备单克隆抗体:小众禽类靶点单抗制备实操流程:双载体抗原交叉筛选完整工艺记录
人工智能·python·深度学习·算法·机器学习
Georgeviewer41 分钟前
数字化工程落地复盘:通用SaaS架构的本地化缺陷与自研系统最优解|皖禾数智实战
大数据·人工智能·架构
三年美工五年设计43 分钟前
AI 生成电商商品套图实测:从白底图到主图、详情页的完整流程
人工智能·aigc
大象AI共学1 小时前
Codex 打断/引导/排队/分叉控制节奏
人工智能
nuo5342021 小时前
基础 6 —— Docker 容器数据卷
docker·容器
用户938515635071 小时前
SSE 流式输出的工程化拐点——为什么你需要一个 BFF 层
javascript·人工智能·全栈
科技新芯1 小时前
2026 WAIC首日:千问首款AI智能体耳机亮相
人工智能