glm5.2 nvfp4 - glm5.2 nvfp4技术,学习,经验文章

缘友一世

2 小时前

GLM-5.2-NVFP4 在 8×A800 上部署实战（上）背景：把官方主打 Blackwell（B200/B300）的 GLM-5.2-NVFP4 模型，硬塞到 8 张中国特供版 A800（sm80）上，实测单流 74–85 tok/s，4 并发 × 32k 上下文可跑通。