pytorch模型训练使用多GPU执行报错:Bus error (core dumped)(未解决)

问题信息

使用 cuda 进行训练

使用 4 个GPU进行训练

Epoch 1/20: 0%| | 0/3184 00:00\Bus error (core dumped)

执行方式

python 复制代码
 self.model = nn.DataParallel(self.model)
 self.model = self.model.to(self.device)

4张GPU均正常,单独指定使用任何一张都可正常执行,运行内存够大,但是一启动4GPU,4张显卡刚起来就error

相关推荐
aneasystone本尊几秒前
学习大模型训练的数据:从互联网到高质量语料
人工智能
鱼宵6 分钟前
LangChain4j RAG 流水线:手写问答全流程,给 AI 开卷考试
大数据·人工智能·机器学习·langchain4j
HIT_Weston7 分钟前
247、【AI】【模型部署】基座模型研究:RoPE 用在前向还是反向——训练、推理与 KV cache
人工智能
m4Rk_10 分钟前
【论文阅读】Agent 记忆机制(97):MCMA——让 Agent 学会如何抽象记忆,实现跨任务经验迁移
论文阅读·人工智能·学习·开源·github
晓德13 分钟前
7、LLM 模型是怎么训练生成的?(4)指令微调
人工智能·学习·算法·信息安全
蝶依斓(湖南)全案整装15 分钟前
整装企业环保健康交付内容写作方法:空气健康、环保材料与检测标准的非空泛表达
大数据·人工智能
丨白色风车丨16 分钟前
Python中JSON与字典/列表的相互转换详解
windows·python·json
梦想不只是梦与想17 分钟前
SQLAlchemy:查询与操作 (三)
数据库·python·sqlalchemy
问天_观心18 分钟前
Mistral-7B QLoRA 实战(二):官方权重转换、4-bit NF4 加载与 Base Model 基线测试
人工智能·深度学习·学习·大模型·transformer
倔强的石头10619 分钟前
Gemini架构解析_多模态大模型的设计思路
人工智能·大模型