解决容器内deepspeed微调大模型报错

解决容器内deepspeed微调大模型报错:launch.py:315:sigkill_handler Killing subprocess

问题描述:

在容器中用deepspeed微调百川大模型2时,出现上述错误,错误是由于生成容器时,共享内存没有设置,采用默认值引起的。终端输入ds_report,可以查看shared_memory,(之前是默认63M,现已调整50G)

解决办法

docker stop 容器名

docker rm 容器名

重新生成容器时加上共享内存参数:--shm-size=1g

例:

docker run -it -d --shm-size=50g --name 容器名--net host --gpus all -v 宿主机路径:容器内路径 -e NVIDIA_DRIVER_CAPABILITIES=compute,utility ubuntu:latest /bin/bash

相关推荐
wxl7812273 分钟前
深度解析:无本体VLA/WLA模型选型、数据采集与家用机器人产业终局
人工智能
羞儿3 分钟前
AI Agent理论提升与体系构建
人工智能·智能体
runningshark4 分钟前
Lecture: Idea Expansion Techniques for Extended Responses
自然语言处理
2601_962218616 分钟前
万象生鲜系统订单全生命周期状态同步技术实现业务可视
大数据·数据库·人工智能·python·算法
南京兴帝文化传媒有限公司10 分钟前
实体理疗店地图优化实操:关键词布局+AI问答如何带来新客翻倍增长
大数据·人工智能·geo 优化·geo优化避坑·ai搜索获客·宣城企业数字化
腾视科技-AIoT26 分钟前
超低功耗 性能卓越|腾视科技重磅推出TS-SG-SM9系列AI算力模组,引领边缘智能计算新篇章
人工智能·科技·ai·算力模组·ai算力模组·ai模组·腾视科技
workflower38 分钟前
人形机器人安全伦理标准
人工智能·安全·机器学习·机器人·无人机
跨境生态圈1 小时前
2026谷歌SEO快速排名深度解析:合规起量、避坑指南与实战落地策略
数据库·人工智能·爬虫·搜索引擎·chatgpt
武子康1 小时前
把 SGLang 接进 Agent,查一次订单要走几步
人工智能·llm·agent