阿里云 AI 网关支持 DeepSeek V4

作者:望宸、梧同

今天,DeepSeek 发布两个模型,V4-Pro 和 V4-Flash。其架构和技术优势可以总结为:

  • 架构升级:流形约束残差连接 mHC、Muon 优化器,提升训练质量。
  • 后训练范式升级:引入领域专家培育和 on-policy distillation(把所有专家熔融合到一个学生模型里),提升后训练效率和效果。
  • 全新的注意力机制:在 DSA 的基础上引入 CSA 和 HCA,提升 1M 上下文情况下的对话效果。

从而带来了模型效果和性价比方面的提升,包括 [1]:

  • Agent 能力大幅提高:在 Agentic Coding 评测中,V4-Pro 已达到当前开源模型最佳水平,据评测反馈使用体验优于 Sonnet 4.5,交付质量接近 Opus 4.6 非思考模式,但仍与 Opus 4.6 思考模式存在一定差距。
  • 丰富的世界知识:DeepSeek-V4-Pro 在世界知识测评中,大幅领先其他开源模型,仅稍逊于顶尖闭源模型 Gemini-Pro-3.1。
  • 世界顶级推理性能:在数学、STEM、竞赛型代码的测评中,DeepSeek-V4-Pro 超越当前所有已公开评测的开源模型,取得了比肩世界顶级闭源模型的优异成绩。
  • 1M token 上下文,推理 FLOPs 只有上一代 V3.2 的 27%,KV cache 只要 10%。

DeepSeek-V4 支持 OpenAI ChatCompletions 接口与 Anthropic 接口。调用新模型 API 时,Model 参数需要改为 deepseek-v4-pro 或 deepseek-v4-flash。

阿里云 AI 网关,提供 Model API、Agent API、MCP Server 的管理能力,现已率先支持 DeepSeek-V4 API 的管理。 您可以通过阿里云 AI 网关,调用 DeepSeek-V4 API 服务,包括思考、多轮对话、Tool Call、Anthropic /v1/messages 兼容调用等功能,并支持在 Claude Code 上接入 DeepSeek-V4,此外,还实现了 DeepSeek-V4 和 Qwen 等其他模型之间的 Fallback 能力。

配置方式:

打开 AI 网关控制台 [ 2] 实例页面,在顶部菜单栏选择目标实例所在地域,并单击目标实例 ID。在左侧导航栏,单击 Model API,然后单击创建 Model API。

进入创建 Model API 表单后,您可按以下说明进行配置:

  • 协议:不同协议对应该场景下的一组内置默认路由,用于快速生成常用的 OpenAI/DashScope/vLLM 等兼容接口。
  • API 名称:您可自定义 API 名称,需注意名称必须全局唯一(同一账号下不可重复),支持英文、数字、下划线"_"、"-",且不超过 64 个字符。
  • 域名 :访问该 API 的域名,支持选择多个。域名与基本路径 BasePath 的组合必须唯一。
  • Base Path :配置 API 的基本请求路径,默认为** /。可选择是否启用转发至后端服务时移除

配置完后,进行用例测试:

相关链接:

1\]《[DeepSeek-V4 预览版:迈入百万上下文普惠时代](https://link.juejin.cn?target=https%3A%2F%2Fmp.weixin.qq.com%2Fs%3F__biz%3DMzk0OTYwNzc3NQ%3D%3D%26mid%3D2247485745%26idx%3D1%26sn%3Def3bc11042fc329e89bc66a8938e8b2c%26scene%3D21%23wechat_redirect "https://mp.weixin.qq.com/s?__biz=Mzk0OTYwNzc3NQ==&mid=2247485745&idx=1&sn=ef3bc11042fc329e89bc66a8938e8b2c&scene=21#wechat_redirect")》 \[2\] AI 网关控制台 [www.aliyun.com/product/api...](https://link.juejin.cn?target=https%3A%2F%2Fwww.aliyun.com%2Fproduct%2Fapi-gateway%2Fai-gateway "https://www.aliyun.com/product/api-gateway/ai-gateway")

相关推荐
阿里云云原生2 小时前
从可观测到可理解:用 UModel 构建 Agent 原生的代码知识图谱
云原生
阿里云云原生2 小时前
OpenClaw、Hermes合用?来自500+社区互动的真实看法
云原生
AI攻城狮5 小时前
开源工具也有山寨陷阱:一个假 Hermes Agent 网站如何收割不明真相的用户
云原生
阿里云云原生5 小时前
人机共跑半马,赛场之外的具身智能规模化运维大考
云原生
米高梅狮子8 小时前
11.Quota and Limits、健康检查和认证与授权
云原生·容器·架构·kubernetes·自动化
AI攻城狮10 小时前
把 Markdown 笔记变成可问答的知识图谱:本地 Graph RAG 工具 Kwipu 实测
云原生
虎头金猫10 小时前
监控机不在被监控的机器上,Prometheus怎么跨网络把数据拉过来
运维·服务器·开发语言·网络·云原生·开源·prometheus
米高梅狮子11 小时前
13.ETCD 存储系统、生产环境 Kubernetes 集群部署和Kubernetes 集群升级
数据库·云原生·容器·架构·kubernetes·自动化·etcd
czlczl200209251 天前
Zookeeper
分布式·zookeeper·云原生