MAI Gateway支持DeepSeek。产品资料已经列出DeepSeek模型接入,控制台可以配置模型、供应商、调用地址、计费信息和启用状态,并提供链路监控、企业Token、配额、成本、安全和日志管理。
企业既可以通过网关调用DeepSeek官方API,也可以接入内部部署的DeepSeek模型。业务系统使用统一接口调用,具体模型地址和供应商密钥由网关集中管理。
核对当前DeepSeek接口
DeepSeek 官方 API 提供 OpenAI 和 Anthropic 兼容格式。OpenAI 格式的基础地址为 https://api.deepseek.com,官方示例可直接使用 OpenAI SDK。当前模型名包括 deepseek-v4-flash、deepseek-v4-pro 和实验性的视觉模型。DeepSeek接入文档
| 核验项 | DeepSeek当前行为 | 网关要处理的内容 |
|---|---|---|
| 模型 | V4 Flash、V4 Pro、视觉实验模型 | 模型名、别名和路由 |
| 推理 | 默认开启,可设推理强度 | 透传或转换参数 |
| 返回 | 推理内容与答案分开 | 保留两类字段 |
| 工具 | 支持多轮工具调用 | 后续请求带回推理内容 |
| 流式 | 支持分块返回 | 保持顺序并记录用量 |
| 计费 | 区分模型、缓存和时段 | 及时更新价格口径 |
MAI Gateway能管哪些环节
统一接口方面,应用使用网关地址、企业Token和模型别名调用DeepSeek。供应商地址和密钥集中保存在网关侧,模型升级或更换供应商时,主要调整后台配置,减少业务系统逐一修改。
模型管理方面,控制台可登记模型、厂商、供应商、类型、计费方式、输入输出单价和启用状态。连接监控可查看健康状态、近期延迟、平均成功率和检测时间。企业可以据此发现某条DeepSeek连接速度下降或调用失败。
财务和成本方面,Token可绑定用户、项目和权限范围,配额可以关联部门和项目,并设置日、月和总量限制。成本中心可查看Token消耗、费用趋势、余额、预测、部门排行、项目排行和调用明细,也可导出数据用于内部核算。
DeepSeek当前价格区分缓存命中、缓存未命中、输入输出和峰谷时段。网关也能针对自动进行区分。
安全方面,MAI Gateway支持IP允许与拒绝规则、输入防护、输出过滤和数据脱敏。API日志可按Trace ID、Token、用户、模型、状态和时间检索,并查看供应商、Token量、请求状态和耗时。异常指标还能通过邮件或钉钉告警。
云API与私有部署要分开看
接 DeepSeek 官方 API,网关主要处理密钥、路由、配额、安全和审计。接企业内部部署的 DeepSeek,还要管理推理引擎、模型版本、量化方式、并发和 GPU 资源。
MAI Gateway 资料中已有 GPU 设备、显存、利用率、温度和趋势监控,也列出私有模型接入。这些页面能辅助定位资源问题,无法替代模型发布、扩缩容和质量评估。云端与本地若共用模型别名,还应写清切换条件。
当前版本若能正确处理 V4 模型名、推理字段、多轮工具调用、流式用量和动态计价,再加上已有的权限、成本、安全与审计,DeepSeek 才算进入企业可管理的模型体系。