阿里云 AI 网关支持 DeepSeek V4

作者:望宸、梧同

今天,DeepSeek 发布两个模型,V4-Pro 和 V4-Flash。其架构和技术优势可以总结为:

  • 架构升级:流形约束残差连接 mHC、Muon 优化器,提升训练质量。
  • 后训练范式升级:引入领域专家培育和 on-policy distillation(把所有专家熔融合到一个学生模型里),提升后训练效率和效果。
  • 全新的注意力机制:在 DSA 的基础上引入 CSA 和 HCA,提升 1M 上下文情况下的对话效果。

从而带来了模型效果和性价比方面的提升,包括 1

  • Agent 能力大幅提高:在 Agentic Coding 评测中,V4-Pro 已达到当前开源模型最佳水平,据评测反馈使用体验优于 Sonnet 4.5,交付质量接近 Opus 4.6 非思考模式,但仍与 Opus 4.6 思考模式存在一定差距。
  • 丰富的世界知识:DeepSeek-V4-Pro 在世界知识测评中,大幅领先其他开源模型,仅稍逊于顶尖闭源模型 Gemini-Pro-3.1。
  • 世界顶级推理性能:在数学、STEM、竞赛型代码的测评中,DeepSeek-V4-Pro 超越当前所有已公开评测的开源模型,取得了比肩世界顶级闭源模型的优异成绩。
  • 1M token 上下文,推理 FLOPs 只有上一代 V3.2 的 27%,KV cache 只要 10%。

DeepSeek-V4 支持 OpenAI ChatCompletions 接口与 Anthropic 接口。调用新模型 API 时,Model 参数需要改为 deepseek-v4-pro 或 deepseek-v4-flash。

阿里云 AI 网关,提供 Model API、Agent API、MCP Server 的管理能力,现已率先支持 DeepSeek-V4 API 的管理。 您可以通过阿里云 AI 网关,调用 DeepSeek-V4 API 服务,包括思考、多轮对话、Tool Call、Anthropic /v1/messages 兼容调用等功能,并支持在 Claude Code 上接入 DeepSeek-V4,此外,还实现了 DeepSeek-V4 和 Qwen 等其他模型之间的 Fallback 能力。

配置方式:

打开 AI 网关控制台 ** **2 实例页面,在顶部菜单栏选择目标实例所在地域,并单击目标实例 ID。在左侧导航栏,单击 Model API,然后单击创建 Model API。

进入创建 Model API 表单后,您可按以下说明进行配置:

  • 协议:不同协议对应该场景下的一组内置默认路由,用于快速生成常用的 OpenAI/DashScope/vLLM 等兼容接口。
  • API 名称:您可自定义 API 名称,需注意名称必须全局唯一(同一账号下不可重复),支持英文、数字、下划线"_"、"-",且不超过 64 个字符。
  • 域名 :访问该 API 的域名,支持选择多个。域名与基本路径 BasePath 的组合必须唯一。
  • Base Path :配置 API 的基本请求路径,默认为** /。可选择是否启用转发至后端服务时移除

配置完后,进行用例测试:

相关链接:

1DeepSeek-V4 预览版:迈入百万上下文普惠时代

2 AI 网关控制台

www.aliyun.com/product/api...

相关推荐
张忠琳1 小时前
【NPU】Ascend Docker Runtime v26.0.1 之三 runtime/dcmi/ — 超深度逐行分析
云原生·容器·kubernetes·npu·docker-runtime
腾飞开源10 小时前
01_K8s干货笔记之认识K8s
运维·笔记·云原生·容器·kubernetes·k8s·容器化部署
张忠琳19 小时前
【NPU】Ascend Docker Runtime v26.0.1 之二 runtime/process/process.go — 超深度逐行分析
云原生·容器·架构·kubernetes·npu·docker-runtime
雨辰AI1 天前
K8s人大金仓主从高可用搭建|容器化集群自动同步+故障切换(生产完整版)
云原生·容器·kubernetes
潘正翔1 天前
k8s基础_kubeadm搭建k8s集群
linux·运维·docker·云原生·容器·kubernetes
潘正翔1 天前
k8s进阶_Harbor镜像仓库
git·云原生·容器·kubernetes·gitee·github
乐启国际旅行社有限公司1 天前
微服务高可用实战:Resilience4j熔断降级解决文旅节假日流量雪崩问题
微服务·云原生·架构
键盘鼓手苏苏1 天前
AI 音频生成流水线:异步任务要有进度和取消
云原生·kubernetes·k8
雨辰AI1 天前
K8s 达梦数据守护集群部署|容器化高可用生产落地指南
云原生·容器·kubernetes
张忠琳1 天前
【NPU】Ascend Docker Runtime v26.0.1 之一 runtime/main.go — 超深度分析
云原生·容器·架构·kubernetes·npu·docker-runtime