Python环境PyTorch分布式训练初始化失败_检查MASTER_ADDR与端口

PyTorch分布式训练常见错误包括端口被占、MASTER_ADDR配置错误、init_process_group超时及torchrun环境变量冲突;需检查端口占用、使用真实IP、确保WORLD_SIZE与RANK一致、避免手动设置torchrun管理的环境变量。PyTorch分布式训练报错 RuntimeError: Address already in use端口被占是初始化失败最常见原因,不是代码写错了,而是本地已有进程(比如上一次没杀干净的 python 或 torch.distributed 进程)绑定了 MASTER_PORT。实操建议:立即学习"Python免费学习笔记(深入)";先用 lsof -i :<code>MASTER_PORT(macOS/Linux)或 netstat -ano | findstr :<code>MASTER_PORT(Windows)查占用进程确认无用后直接 kill:kill -9 <code>PID(Linux/macOS)或 taskkill /F /PID <code>PID(Windows)更稳妥的做法:每次启动前换一个随机端口,比如用 export MASTER_PORT=((10000 + RANDOM % 1000))别用默认的 29500 ------ 它太常见,CI/本地多任务并行时极易冲突MASTER_ADDR 设成本机 localhost 却在多机训练中失败单机多卡能跑不代表多机通,localhost 在每台机器上都指向自己,跨机器根本连不上。实操建议:立即学习"Python免费学习笔记(深入)";必须设为可被所有节点访问的真实 IP,比如主节点网卡地址(非 127.0.0.1、非 localhost、非 Docker 内网 IP)运行前先手动 ping 测试:ping <code>MASTER_ADDR 从所有 worker 节点执行,不通就别往下试如果走 SSH 登录训练,注意云服务器安全组是否放行了 MASTER_PORT 端口(TCP)Docker 场景下,避免用 --network=host 外还设 localhost ------ 容器内 localhost 不等于宿主机网络命名空间init_process_group 调用超时卡死,日志停在 initializing process group这不是程序卡住,是等待其他 rank 连接超时。PyTorch 默认等 300 秒,期间只要有一个 rank 没 join,全部挂起。 稿定AI 拥有线稿上色优化、图片重绘、人物姿势检测、涂鸦完善等功能

相关推荐
泡海椒27 分钟前
JQuick-SQL REST API 数据接入:应用层调用接口后注册分析表
数据库·sql·1024程序员节
程序猿乐锅34 分钟前
【从0-1学习Python | 第七篇】Python 面向对象基础
开发语言·笔记·后端·python·学习·1024程序员节
lzqrzpt35 分钟前
太阳能控制器选型要点:电路工艺与工程适配技术解析
python·1024程序员节
Random Glow1 小时前
聚簇索引 vs 二级索引:回表、覆盖索引、索引下推
数据库·mysql·性能优化·innodb·1024程序员节·索引优化
databook1 小时前
时间序列数据中,如何找出缺失值
python·数据分析
要开心吖ZSH2 小时前
一次线上锁风暴复盘:号源表大范围 DELETE 的隐患与分批删除改造
数据库·mysql·行锁·1024程序员节·间隙锁·lockwaittimeout
小小龙学IT2 小时前
Python Polars 高性能数据处理引擎深度解析
开发语言·python·rust·1024程序员节
csdn_aspnet3 小时前
JavaScript 未排序数组中第 k 个最小/最大元素 (预期线性时间)
python
quantdash_cc3 小时前
如何利用标的信息为研究股票池补充名称和交易所信息?
开发语言·python·pandas·量化交易·1024程序员节·股票数据·quantdash