【新模型速递】PAI-Model Gallery云上一键部署Qwen3-Next系列模型

模型介绍

阿里巴巴最新开源了下一代基础模型 Qwen3-Next ,重点是通过创新的模型架构提高扩展效率。Qwen3-Next-80B-A3B 是 Qwen3-Next 系列的第一个版本,具有以下关键增强功能:

  • 混合注意力 :将标准注意力替换为 Gated DeltaNetGated Attention 的组合,从而实现超长上下文长度的有效上下文建模。

  • 高稀疏度混合专家(MoE):在 MoE 层中实现了极低的激活比率,大幅减少了每个令牌的 FLOPs,同时保持了模型容量。

  • 稳定性优化 :包括 零中心化和权重衰减层归一化 等技术,以及其他稳定增强措施,以实现稳健的预训练和后训练。

  • 多令牌预测(MTP):提升预训练模型性能并加速推理。

在参数效率和推理速度方面 Qwen3-Next-80B-A3B 都有强劲表现:

  • Qwen3-Next-80B-A3B-Base 在下游任务上的表现优于 Qwen3-32B-Base,总训练成本仅为 10%,并且在超过 32K 令牌的上下文中推理吞吐量提高了 10 倍。

  • Qwen3-Next-80B-A3B-Instruct 在某些基准测试中的表现与 Qwen3-235B-A22B-Instruct-2507 相当,而在处理高达 256K 令牌的超长上下文任务时表现出显著优势。

阿里云 PAI-Model Gallery 已同步接入 Qwen3-Next 系列模型,提供企业级部署方案。

PAI-Model Gallery 是阿里云人工智能平台 PAI 的产品组件,它集成了国内外 AI 开源社区中优质的预训练模型,涵盖了 LLM、AIGC、CV、NLP 等各个领域。通过 PAI 对这些模型的适配,用户可以以零代码方式实现从训练到部署再到推理的全过程,简化了模型的开发流程,为开发者和企业用户带来了更快、更高效、更便捷的 AI 开发和应用体验。

PAI-Model Gallery 访问地址:pai.console.aliyun.com/#/quick-sta...

✅ 零代码一键部署

✅ 自动适配云资源

✅ 部署后开箱即用API

✅ 全流程运维托管

✅ 企业级安全 数据不出域

一键部署 Qwen3-Next 模型

  1. 在 PAI-Model Gallery 模型广场找到 Qwen3-Next-80B-A3B-Instruct 模型,或通过链接直达该模型:pai.console.aliyun.com/#/quick-sta...
  1. 在模型详情页右上角点击「部署」,平台支持SGLang、vLLM部署框架,并支持MTP(Multi-Token Prediction)来加速推理性能,同时支持修改TP(张量并行)、DP(数据并行)、EP(专家并行)等参数。平台已提供默认配置,只需选择计算资源,即可一键完成模型的云上部署。

3. 部署成功后,在服务页面可以点击"查看调用信息"获取调用的 Endpoint 和 Token,想了解服务调用方式可以点击预训练模型链接,返回模型介绍页查看调用方式说明。

  1. 使用推理服务:您可以使用 API 调用模型服务,也可以使用 PAI 平台提供的在线调试功能,此外您还可以使用 PAI 平台提供的 WebUI 界面与模型进行交互。可以看到,Qwen3-Next-80B-A3B-Instruct 仅支持指令(非思考)模式,并且在其输出中不会生成 块。

更多模型支持

PAI-Model Gallery 持续提供开源社区热门模型快速部署、训练、评测实践。

相关推荐
那个村的李富贵1 分钟前
昇腾CANN跨行业实战:五大新领域AI落地案例深度解析
人工智能·aigc·cann
集简云-软件连接神器5 分钟前
技术实战:集简云语聚AI实现小红书私信接入AI大模型全流程解析
人工智能·小红书·ai客服
松☆5 分钟前
深入理解CANN:面向AI加速的异构计算架构
人工智能·架构
rainbow7242445 分钟前
无基础学AI的入门核心,从基础工具和理论开始学
人工智能
子榆.9 分钟前
CANN 与主流 AI 框架集成:从 PyTorch/TensorFlow 到高效推理的无缝迁移指南
人工智能·pytorch·tensorflow
七月稻草人11 分钟前
CANN生态ops-nn:AIGC的神经网络算子加速内核
人工智能·神经网络·aigc
2501_9248787311 分钟前
数据智能驱动进化:AdAgent 多触点归因与自我学习机制详解
人工智能·逻辑回归·动态规划
芷栀夏13 分钟前
CANN开源实战:基于DrissionPage构建企业级网页自动化与数据采集系统
运维·人工智能·开源·自动化·cann
物联网APP开发从业者13 分钟前
2026年AI智能软硬件开发领域十大权威认证机构深度剖析
人工智能
MSTcheng.18 分钟前
构建自定义算子库:基于ops-nn和aclnn两阶段模式的创新指南
人工智能·cann