技术栈
深度学习优化
gs80140
4 天前
分布式训练
·
deepspeed
·
多机多卡
·
深度学习优化
·
colossal-ai
分布式多机多卡训练全景指南：MPI、DeepSpeed 与 Colossal-AI 深度解析
分布式多机多卡训练技术是深度学习领域提高训练效率和加快模型收敛的重要手段。以下是几个流行的框架和工具：
scdifsn
22 天前
pytorch
·
笔记
·
深度学习
·
深度学习优化
动手学深度学习11.1. 优化和深度学习-笔记&练习（PyTorch）
本节课程地址：72 优化算法【动手学深度学习v2】_哔哩哔哩_bilibili本节教材地址：11.1. 优化和深度学习 — 动手学深度学习 2.0.0 documentation