解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
麻花地几秒前
Jev 模型深度解读:不生成文字的 System One 决策模型
人工智能·深度学习
SelectDB技术团队1 分钟前
StarRocks 迁移至 Apache Doris 完整指南:三步完成结构、数据与业务平滑切换
数据库·人工智能·sql·clickhouse·apache doris·selectdb·湖仓架构升级
ysu_03142 分钟前
【2026】AI Agent 工程化落地六大挑战:从路径坍缩到成本失控
人工智能·ai·rag·ai agent·大模型应用·langgraph·agent工程化
aneasystone本尊6 分钟前
学习大模型推理的显存优化:PagedAttention 与前缀缓存
人工智能
daxiangxm8 分钟前
【趣味休息】“围住小猫在线玩”-“困住小猫”,又回来了
数据结构·人工智能·vscode·github·php
zhangfeng11339 分钟前
Git 里一个分支下可以有任意多个版本
人工智能·ai编程
子非鱼eva13 分钟前
昇腾开源仓Issue分析解答-Ascend精选(十六)·2026-09增量补采
人工智能·ai·gitcode
Mr_star_galaxy13 分钟前
【Agent】大模型(LLM)介绍
人工智能·深度学习·机器学习
狂师15 分钟前
2026互联网大厂秋招AI Coding笔试全攻略!
人工智能·面试·求职
IT_陈寒19 分钟前
Vite这坑我踩了,说说静态资源加载那些事儿
前端·人工智能·后端