解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
larance1 分钟前
[菜鸟教程] 机器学习教程十一课-数据理解
人工智能·机器学习
就玩一会_2 分钟前
Meta Muse 发布以来全梳理:从 Muse Spark 到个人 AI Agent
大数据·人工智能·spark
学心理学的程序员7 分钟前
腾讯开源 BrowserSkill:让 AI 直接接管你登录好的真实浏览器,自动化再也不用重新登录一遍
人工智能·开源·自动化
人工智能培训12 分钟前
智能博弈背景下中国AI国防建设的战略价值
大数据·人工智能·算法·重构·生活
u13013014 分钟前
GitHub 热榜项目:日榜(2026-10-10)
人工智能·github
java_logo15 分钟前
Docker 部署 OpenViking:轻松搭建 AI Agent 上下文数据库平台
数据库·人工智能·docker·agent·火山引擎·openviking·轩辕镜像
Codiggerworld19 分钟前
Redis 正式接入 AI:当“最懂速度的数据库“开始解决“记忆问题“
数据库·人工智能·redis
白露与泡影20 分钟前
Redis 正式接入 AI:当“最懂速度的数据库“开始解决“记忆问题“
数据库·人工智能·redis
xixixi7777720 分钟前
解读|华为星河 AI 三层安全围栏:以 AI 守护 AI,重构智算中心 Token 生产纵深防御体系
人工智能·安全·web安全·华为·提示词注入·agent安全·模型投毒
tianbin91121 分钟前
自建还是采购?深度剖析 AI API 中转站的成本与收益
人工智能