Qwen 通义千问本地部署与推理服务封装fastapi·qwen·vllm·流式推理·openai兼容api·awq量化
快速上手大模型推理vllm人工智能·python·大语言模型·agent·vllm
把一个 Qwen3.8的聊天模型改造成 JEV 决策模型人工智能·语言模型·自然语言处理·chatgpt·transformer·vllm·sglang
从传统运维到 AI Infra: K8s 上调度 100 张 GPU踩坑笔记运维·人工智能·缓存·kubernetes·vllm·sglang·vllm-omni