零配置部署顶级模型!函数计算一键解锁 Qwen3.5

作者:西流

就在最近,大模型圈再次迎来重磅炸弹!阿里巴巴开源了全新一代大模型------千问 Qwen3.5-397B-A17B,直接登顶全球最强开源模型宝座。

面对如此强大的模型,开发者们最关心的问题莫过于: "这么强的模型,部署起来会不会很麻烦?"

今天,我们就为大家带来一个 "神器级"解决方案------通过函数计算 FC 实现一键部署 Qwen3.5,让顶级模型的计算力触手可及!

模型介绍

这次开源的 Qwen3.5-397B-A17B 可不是普通的模型升级,它在架构和性能上都实现了质的飞跃:

  • 性能超过万亿参数的 Qwen3-Max 模型,是目前全球最强开源模型,总参数 3970 亿,但激活参数仅 170 亿。采用创新的混合架构(线性注意力 Gated Delta Networks + 稀疏混合专家 MoE),在保持能力的同时优化了速度与成本。
  • 成本降低:部署显存占用降低 60%,推理效率大幅提升,最大推理吞吐量可提升至 19 倍!
  • 全能选手 :作为原生视觉 - 语言模型,在推理、编程、智能体能力与多模态理解上表现优异。语言支持从 119 种扩展至 201 种,全球通用。

函数计算解决方案

传统部署大模型,你通常需要面对:

  • 复杂的 GPU 环境配置
  • 繁琐的运维监控工作
  • 弹性伸缩困难

现在,有了函数计算 FC,一切变得如此简单!

函数计算 FC 已同步接入 Qwen3.5 本次开源的模型,提供企业级部署方案 。基于 Serverless GPU 架构,你无需关心底层基础设施,只需专注于模型本身的应用与调试。

一键部署 Qwen3.5-397B-A178

  1. 准备一个 OSS Bucket,使用 functionai.console.aliyun.com/old/templat... 下载到 bucket 的一定目录中,比如 Qwen/Qwen3.5-397B-A17B。

a. 先将这个白屏化工具部署起来,等待部署成功

b. 编辑后端配置完毕以后,将 Qwen/Qwen3.5-397B-A17B 下载对应 bucket 中的指定目录,开始下载任务(注:模型很大,请耐心等待下载)

  1. 在 FunModel 的自定义部署(functionai.console.aliyun.com/fun-model/c... ),选择好镜像以及计算资源,填写好对应的启动命令,既可以完成一键部署。

启动命令:

css 复制代码
vllm serve /mnt/my-model-scope/models/Qwen/Qwen3.5-397B-A17B --served-model-name Qwen/Qwen3.5-397B-A17B --port 9000 --trust-remote-code --gpu-memory-utilization 0.9 --max-model-len 262144 --tensor-parallel-size 16 --enable-auto-tool-choice --tool-call-parser qwen3_coder --reasoning-parser qwen3 
  1. 耐心等待部署,部署成功后,即可以进行推理服务的调试。

qwen3.5 模型市场

更多 qwen3.5 模型一键部署方案请参考。(模型持续补充中)

总结

维度 传统方案 FunModel
部署时间 以天计 5分钟
技术门槛
运维以及迭代成本

依托 Serverless + GPU,天然提供了简单,轻量,0 门槛的模型集成方案,给个人开发者良好的玩转模型的体验,也让企业级开发者快速高效的部署、运维和迭代模型。

在阿里云函数计算,开发者可以做到:

  • 模型的快速部署上线:从原来的以周为单位的模型接入周期降低到 5 分钟,0 开发,无排期。
  • 一键扩缩容,让运维不再是负担:多种扩缩容策略高度适配业务流量,实现"无痛运维"。

在 AI 的时代浪潮下,模型作为 AI 的载体必然会不断迭代,开发者对模型部署的需求也会日益增多,函数计算 FC 为模型部署和集成提供新范式,也会朝着"让人人成为开发者"的目标演进下去。

更多内容请参考:

1\] FunModel 快速入门 [fun-model-docs.devsapp.net/getting-sta...](https://link.juejin.cn?target=https%3A%2F%2Ffun-model-docs.devsapp.net%2Fgetting-started%2F "https://fun-model-docs.devsapp.net/getting-started/") \[2\] FunModel 自定义部署 [fun-model-docs.devsapp.net/user-guide/...](https://link.juejin.cn?target=https%3A%2F%2Ffun-model-docs.devsapp.net%2Fuser-guide%2Fcustom-model-deployment%2F "https://fun-model-docs.devsapp.net/user-guide/custom-model-deployment/")

相关推荐
AI攻城狮1 小时前
对AI泡沫的地狱式批判,你认可吗?
云原生
面汤放盐5 小时前
从单体架构到微服务架构:模式与最佳实践
微服务·云原生·架构
木雷坞8 小时前
K8s GPU 推理服务 ImagePullBackOff 排查与预热
云原生·容器·kubernetes·gpu算力
AOwhisky11 小时前
Kubernetes调度与服务暴露:从“定时任务”到“服务发现”的完全指南
linux·运维·云原生·容器·kubernetes·服务发现
Cyber4K12 小时前
【Kubernetes专项】温故而知新,重温技术原理(6)
云原生·容器·kubernetes
运维老郭14 小时前
K8s故障排查:一条分层排查路径解决99%线上问题
运维·云原生·kubernetes
AI攻城狮14 小时前
谷歌花400亿投了"对手":这不是矛盾,这是最高明的战略对冲
云原生
AI攻城狮14 小时前
中国大模型在成本领域继续碾压对手,成为难以逾越的护城河
云原生
冷小鱼15 小时前
Spring Boot:从核心原理到 AI 时代的云原生基石
人工智能·spring boot·云原生
AI攻城狮1 天前
Hermes 下启动 Sub Agent 失败的痛苦教训
云原生