技术栈
glm5.3 flash
缘友一世
20 天前
ubuntu
·
vllm
·
glm5.3 flash
GLM5.3 flash cybersec本地部署[5]:生产运维与故障恢复
要等多久？页缓存命中且 cache 目录完整：约 376 秒就绪更换了并行度或 cache 目录为空：追加约 150 秒 JIT 编译
缘友一世
21 天前
vllm
·
glm5.3 flash
GLM5.3 flash cybersec本地部署[4]:基准测试与复现
本篇说明性能数字是如何测得、如何复现的：先给出基准测试工具与各自的适用场景，再区分两个容易混淆的吞吐口径，随后列出六条测量准则及其对应的失败案例，最后给出双来源交叉校验方法、原始记录解读方式，以及约一小时的复现流程与容差判定标准。
缘友一世
23 天前
vllm
·
glm5.3 flash
GLM5.3 flash cybersec本地部署[0]:环境准备与首次启动
由 nvidia-smi topo -m 确定的互联结构GPU0 ═══ GPU1（NVLink，NV8） GPU2 ═══ GPU3（NVLink，NV8）
缘友一世
2 个月前
vllm
·
模型推理部署
·
a800
·
glm5.3 flash
GLM-5.3-Flash 在 8×A800 (sm_80) 上跑通（一）：项目介绍与方案选型
首发CSDN · 技术连载第 1 篇（共 3 篇） 配套开源项目：GLM-5.3-Flash on 8×A800 (sm_80) 部署套件
我是有底线的