【新模型速递】PAI-Model Gallery云上一键部署Qwen3-Next系列模型

模型介绍

阿里巴巴最新开源了下一代基础模型 Qwen3-Next ,重点是通过创新的模型架构提高扩展效率。Qwen3-Next-80B-A3B 是 Qwen3-Next 系列的第一个版本,具有以下关键增强功能:

  • 混合注意力 :将标准注意力替换为 Gated DeltaNetGated Attention 的组合,从而实现超长上下文长度的有效上下文建模。

  • 高稀疏度混合专家(MoE):在 MoE 层中实现了极低的激活比率,大幅减少了每个令牌的 FLOPs,同时保持了模型容量。

  • 稳定性优化 :包括 零中心化和权重衰减层归一化 等技术,以及其他稳定增强措施,以实现稳健的预训练和后训练。

  • 多令牌预测(MTP):提升预训练模型性能并加速推理。

在参数效率和推理速度方面 Qwen3-Next-80B-A3B 都有强劲表现:

  • Qwen3-Next-80B-A3B-Base 在下游任务上的表现优于 Qwen3-32B-Base,总训练成本仅为 10%,并且在超过 32K 令牌的上下文中推理吞吐量提高了 10 倍。

  • Qwen3-Next-80B-A3B-Instruct 在某些基准测试中的表现与 Qwen3-235B-A22B-Instruct-2507 相当,而在处理高达 256K 令牌的超长上下文任务时表现出显著优势。

阿里云 PAI-Model Gallery 已同步接入 Qwen3-Next 系列模型,提供企业级部署方案。

PAI-Model Gallery 是阿里云人工智能平台 PAI 的产品组件,它集成了国内外 AI 开源社区中优质的预训练模型,涵盖了 LLM、AIGC、CV、NLP 等各个领域。通过 PAI 对这些模型的适配,用户可以以零代码方式实现从训练到部署再到推理的全过程,简化了模型的开发流程,为开发者和企业用户带来了更快、更高效、更便捷的 AI 开发和应用体验。

PAI-Model Gallery 访问地址:pai.console.aliyun.com/#/quick-sta...

✅ 零代码一键部署

✅ 自动适配云资源

✅ 部署后开箱即用API

✅ 全流程运维托管

✅ 企业级安全 数据不出域

一键部署 Qwen3-Next 模型

  1. 在 PAI-Model Gallery 模型广场找到 Qwen3-Next-80B-A3B-Instruct 模型,或通过链接直达该模型:pai.console.aliyun.com/#/quick-sta...
  1. 在模型详情页右上角点击「部署」,平台支持SGLang、vLLM部署框架,并支持MTP(Multi-Token Prediction)来加速推理性能,同时支持修改TP(张量并行)、DP(数据并行)、EP(专家并行)等参数。平台已提供默认配置,只需选择计算资源,即可一键完成模型的云上部署。

3. 部署成功后,在服务页面可以点击"查看调用信息"获取调用的 Endpoint 和 Token,想了解服务调用方式可以点击预训练模型链接,返回模型介绍页查看调用方式说明。

  1. 使用推理服务:您可以使用 API 调用模型服务,也可以使用 PAI 平台提供的在线调试功能,此外您还可以使用 PAI 平台提供的 WebUI 界面与模型进行交互。可以看到,Qwen3-Next-80B-A3B-Instruct 仅支持指令(非思考)模式,并且在其输出中不会生成 块。

更多模型支持

PAI-Model Gallery 持续提供开源社区热门模型快速部署、训练、评测实践。

相关推荐
袁庭新2 小时前
全球首位AI机器人部长,背负反腐重任
人工智能·aigc
机器之心2 小时前
谁说Scaling Law到头了?新研究:每一步的微小提升会带来指数级增长
人工智能·openai
算家计算2 小时前
AI配音革命!B站最新开源IndexTTS2本地部署教程:精准对口型,情感随心换
人工智能·开源·aigc
量子位2 小时前
马斯克周末血裁xAI 500人
人工智能·ai编程
算家计算3 小时前
OpenAI最强编程模型GPT-5-Codex发布!可独立编程7小时,编程效率提升10倍
人工智能·ai编程·资讯
聚客AI4 小时前
🌟大模型为什么产生幻觉?预训练到推理的漏洞全揭秘
人工智能·llm·掘金·日新计划
Juchecar4 小时前
一文讲清 nn.Sequential 等容器类
人工智能
阿里云云原生5 小时前
如何快速看懂「祖传项目」?Qoder 强势推出新利器
人工智能
美团技术团队5 小时前
LongCat-Flash:如何使用 SGLang 部署美团 Agentic 模型
人工智能·算法