sglang pytorch NCCL hang分析

sglang部署出现卡死现象,通过cuda-gdb分析发现是NCCL卡死

cpp 复制代码
(cuda-gdb) info cuda kernels
  Kernel Parent Dev Grid Status                             SMs Mask  GridDim  BlockDim Invocation
*      0      -   1 3424489 Active 0x0000000000000000000000000000ff00ff (16,1,1) (544,1,1) ncclDevKernel_ReduceScatter_Sum_bf16_RING_LL()

但是默认没有打印调用栈,通过设置如下环境变量,打印NCCL错误信息和算子调用栈:

bash 复制代码
export NCCL_DEBUG=INFO

export TORCH_NCCL_TRACE_BUFFER_SIZE=40960
export TORCH_NCCL_TRACE_CPP_STACK=true
export TORCH_NCCL_DUMP_ON_TIMEOUT=true
相关推荐
卷无止境2 分钟前
Python的contextlib与 FastAPI 中的上下文管理
后端·python·fastapi
测试19989 分钟前
接口自动化测试的全面解析与实战指南
自动化测试·软件测试·python·测试工具·职场和发展·测试用例·接口测试
whcyhhh12 分钟前
头歌实践教学平台:数据科学与大数据技术导论(九上)
大数据·python
卷无止境18 分钟前
FastAPI Events 深度解析与工程实践
后端·python·fastapi
FYKJ_201024 分钟前
springboot网上购书商城---附源码15749
java·spring boot·后端·python·spark·django·php
青 春 记 忆31 分钟前
LeetCode 234. 回文链表|Python 解法详解
python·leetcode·链表
招财小梗33 分钟前
沈阳AI企业服务真能降本增效?
大数据·人工智能·python
敲代码还房贷1 小时前
安装wsl报错:HCS_E_HYPERV_NOT_INSTALLED
linux·python·ubuntu
whcyhhh1 小时前
头歌实践教学平台:数据科学与大数据技术导论(九下)
大数据·python
名字还没想好☜1 小时前
Python asyncio.Queue 实战:用生产者-消费者给爬虫/任务流限速又解耦
开发语言·爬虫·python·并发·asyncio