xLLM 实现 Day0 支持智谱 GLM-5 大模型,深度优化华为昇腾推理性能。用户即日起可在 xLLM 中直接体验 GLM-5 的卓越性能,尤其针对华为昇腾平台完成了深度推理优化,推理效率显著提升。这是 xLLM 在国产芯片适配领域迈出的又一关键步伐。
回望2025年8月开源以来,xLLM 已全面完成对昇腾、寒武纪、摩尔线程、天数智芯等主流国产芯片的深度适配与优化,覆盖大语言模型、多模态、文生图及生成式推荐等核心AI场景,并在关键模型上取得高吞吐、低延迟的性能突破。通过与头部模型厂商的深度协同,我们实现从通用大模型到专业领域模型的快速支持,持续降低国产AI落地的门槛。
迈向2026,xLLM 期待与各位继续携手,共同推动开源 AI Infra 生态的繁荣与发展。
