sglang pytorch NCCL hang分析

sglang部署出现卡死现象,通过cuda-gdb分析发现是NCCL卡死

cpp 复制代码
(cuda-gdb) info cuda kernels
  Kernel Parent Dev Grid Status                             SMs Mask  GridDim  BlockDim Invocation
*      0      -   1 3424489 Active 0x0000000000000000000000000000ff00ff (16,1,1) (544,1,1) ncclDevKernel_ReduceScatter_Sum_bf16_RING_LL()

但是默认没有打印调用栈,通过设置如下环境变量,打印NCCL错误信息和算子调用栈:

bash 复制代码
export NCCL_DEBUG=INFO

export TORCH_NCCL_TRACE_BUFFER_SIZE=40960
export TORCH_NCCL_TRACE_CPP_STACK=true
export TORCH_NCCL_DUMP_ON_TIMEOUT=true
相关推荐
充钱大佬6 小时前
Python测试基础教程
python·log4j·apache
OpenApi.cc8 小时前
猫狗分类模型 GPU版
pytorch·深度学习·分类
初心丨哈士奇8 小时前
Python 四大基础容器|列表篇
python
明理的信封9 小时前
AI 基础设施的“去 Python 化“:Rust 与 C# 的两条替代路径
人工智能·python·rust
麻雀飞吧10 小时前
2026年AI量化开发,先跑通小流程再加复杂功能
人工智能·python
daphne odera�10 小时前
PyCharm 中 Codex 插件启动失败:unknown variant default 的解决方法
python·chatgpt·pycharm
nbu04william11 小时前
Deepseek-api省token的用法
python·大模型·token·deepseek
测试老哥11 小时前
Pytest自动化测试详解
自动化测试·软件测试·python·测试工具·测试用例·pytest·接口测试
坚持学习前端日记11 小时前
国产化适配全流程适配英伟达本地开发
人工智能·python
源图客12 小时前
云途物流API开发-鉴权认证(Java)
java·网络·python