大模型供应商API端点兼容协议

各家大模型供应商为了兼容各种AI工具,基本上都会支持几种广泛使用的API兼容协议

一、常见的兼容协议

1.OpenAI Chat Completions(v1/chat/completions) 协议

测试请求

复制代码
curl --location 'https://open.example.com/v1/chat/completions' \
--header 'Authorization: Bearer sk-aaabbb' \
--header 'Content-Type: application/json' \
--data '{
    "model": "GLM-5.2",
    "messages": [
      {"role": "user", "content": "hello"}
    ],
    "temperature": 0.2,
    "top_p": 0.9
  }'

返回示例

复制代码
{
    "id": "5aa825e5-3yud-4il0-bfhj-c619c3c39367",
    "object": "chat.completion",
    "model": "glm-5.2",
    "created": 1785480756,
    "choices": [
        {
            "index": 0,
            "message": {
                "role": "assistant",
                "content": "你好!我是Z.ai训练的GLM大语言模型。很高兴能与你交流。\n\n有什么我能帮助你的问题或者你想了解的话题吗?无论是工作学习上的疑问,还是日常生活中的好奇,我都很乐意为你提供帮助。",
                "reasoning_content": "Let me consider how to respond to this greeting thoughtfully.\n\nThe user has started with a simple \"hello\" - this is likely the beginning of a conversation. I should respond in a way that's both welcoming and open-ended.\n\nFirst, I'll acknowledge their greeting warmly. Then I should introduce myself briefly to establish context. Since this is an initial interaction, I should also express my willingness to help while inviting them to share what's on their mind.\n\nI need to make sure my response feels natural and conversational, not overly formal or robotic. It would be good to end with an open question that encourages them to continue the dialogue.\n\nThe key is to create a friendly atmosphere where they feel comfortable sharing what they need assistance with. This initial exchange sets the tone for our entire conversation, so it's important to get it right.\n\nLet me craft a response that's welcoming, informative, and encourages further conversation."
            },
            "finish_reason": "stop"
        }
    ],
    "usage": {
        "prompt_tokens": 13,
        "completion_tokens": 232,
        "total_tokens": 245,
        "prompt_tokens_details": {
            "cached_tokens": 0
        },
        "completion_tokens_details": {
            "reasoning_tokens": 183
        }
    }
}

协议由美国 OpenAI 公司原生开发,2023 年 3 月,伴随 gpt-3.5-turbo 上线,替代老式单轮 /v1/completions

2.Anthropic Messages(v1/messages)协议

请求示例

复制代码
curl --location 'https://open.example.com/v1/messages' \
--header 'x-api-key: sk-aaabbb' \
--header 'anthropic-version: 2023-06-01' \
--header 'Content-Type: application/json' \
--data '{
    "model": "GLM-5.2",
    "max_tokens": 100,
    "temperature": 0.2,
    "top_p": 0.9,
    "messages": [
      {"role": "user", "content": "hello"}
    ]
  }'

协议由由美国 Anthropic 公司原生独立设计开发,正式发布时间:2023 年 6 月(API 版本头 anthropic-version: 2023-06-01)

✅ 最早应用模型:Claude 2 / Claude 2.1

推出目的:替代老旧字符串 prompt 接口,支持结构化多轮对话、区分 user/assistant 消息轮次;

架构关键设计:system 独立顶层字段,不塞进 messages 数组;强制消息交替 user ↔ assistant;max_tokens 为必填项。

3.OpenAI Responses API(/v1/responses)协议(CodeX使用)

复制代码
curl --location 'https://open.example.com/v1/responses' \
--header 'Authorization: Bearer sk-aaabbb' \
--header 'Content-Type: application/json' \
--data '{
    "model": "GLM-5.2",
    "input": [
        {
            "role": "user",
            "content": "hello"
        }
    ],
    "temperature": 0.2,
    "top_p": 0.9
}'

协议由美国 OpenAI 独立原生开发,定位:OpenAI 面向智能体 (Agent) 场景的新一代官方 REST 协议,正式发布:2025-03-11,OpenAI 官方对外推出 /v1/responses,设计目标替代老旧 Beta 版 Assistants API,并作为 Chat Completions 的下一代演进接口。最早应用新版 Codex 云编码智能体(codex-1)

二、各厂商兼容情况

各厂商和中转站(采用new-api、CCX、TokenHub等开源组件搭建)基本上都支持前两种,少量情况也会支持第三种

比如稀宇科技minimax的官方文档里提到了支持三种,智谱AI的官方文档提到了支持前两种

三、各编码工具对接情况

1.claude命令行工具

修改配置文件 C:\Users\用户名\.claude\settings.json

内容如下

复制代码
{
  "env": {
    "ANTHROPIC_API_KEY": "sk-aaabbb",
    "ANTHROPIC_AUTH_TOKEN": "sk-aaabbb",
    "ANTHROPIC_BASE_URL": "https://open.example.com",
    "ANTHROPIC_DEFAULT_OPUS_MODEL": "GLM-5.2",
    "ANTHROPIC_DEFAULT_SONNET_MODEL": "GLM-5.2",
    "ANTHROPIC_DEFAULT_HAIKU_MODEL": "GLM-5.2",
    "ANTHROPIC_MODEL": "GLM-5.2",
    "ANTHROPIC_REASONING_MODEL": "GLM-5.2"
  }
}

2.vscode

安装claude code for vscode插件

配置同上

3.jetbrain idea

安装 proxyAI插件 只能对话,不能直接修改代码

配置导入

CustomOpenAiSettings.json

内容

复制代码
[{"name":"customendpoint","template":"OPENAI","apiKey":"","chatCompletionSettings":{"url":"https://open.example.com/v1/chat/completions","headers":{"Authorization":"Bearer $CUSTOM_SERVICE_API_KEY","X-LLM-Application-Tag":"proxyai","Content-Type":"application/json"},"body":{"stream":true,"model":"GLM-5.2","messages":"$OPENAI_MESSAGES","temperature":0.2,"max_tokens":8192}},"codeCompletionSettings":{"codeCompletionsEnabled":true,"parseResponseAsChatCompletions":true,"infillTemplate":"OPENAI","url":"https://open.example.com/v1/chat/completions","headers":{"Authorization":"Bearer $CUSTOM_SERVICE_API_KEY","X-LLM-Application-Tag":"proxyai","Content-Type":"application/json"},"body":{"suffix":"$SUFFIX","stream":true,"model":"GLM-5.2","temperature":0.2,"prompt":"$PREFIX","max_tokens":1024}}}]

目前idea插件2023版没找到能自由兼容通用api的

4.trae IDE

基于vscode的编码ide 自带免费模型,可以直接修改代码,2026.7.31改成每月免费500积分了

点击 右上角齿轮 进入设置页面

点击 模型--添加模型

点击 自定义配置 设置如下

复制代码
API格式:Anthropic Message格式
自定义请求地址:https://open.example.com
模型ID: GLM-5.2
API密钥: 你的密钥

TRAE任务栏 模型选择关闭auto-mode 改成刚才定义的GLM-5.2

目前trae支持 OpenAI Chat Completions(v1/chat/completions) 协议和Anthropic Messages(v1/messages)协议

5.Zcode

交互式编程助手 类似codex 可以编码,也可以通过技能实现写ppt word

可以在不登录的情况下配置自定义模型

点击右下角齿轮-模型设置-添加供应商

设置如下

复制代码
名称 customendpoint
baseurl https://open.example.com
api key 你的api key
api格式 Anthropic Message格式

添加模型 模型id填入 GLM-5.2

返回工作区即可使用刚才配置的模型id了

zcode支持 OpenAI Chat Completions(v1/chat/completions) 协议和Anthropic Messages(v1/messages)协议

6.Hermes Agent

由 Nous Research 开发,Github 高星自进化 AI Agent 工具

核心能力:闭环自我学习,自动把重复工作提炼为可复用 Skill 技能,后续任务提速 40%;

内置长效记忆系统,自动清理无用对话、留存长期规则;

自定义endpoint支持:OpenAI Chat Completions(v1/chat/completions) 协议、Anthropic Messages(v1/messages) 协议 和 OpenAI Responses API(/v1/responses)协议(Codex使用)

交互式命令切换模型

复制代码
hermes model

填写 如下

复制代码
Select provider: 选择 (○) Custom endpoint (enter URL manually)
API base URL [e.g. https://api.example.com/v1]: https://open.example.com/v1
API key [optional]: 你的api key
Select API compatibility mode: 选择2 Chat Completions
Available models: 选择2 GLM-5.2
Context length in tokens:  设置上下文长度 直接回车自动检测即可
Display name:  回车

使用

命令行

复制代码
hermes

切换模型

复制代码
hermes model

7.Netcatty

Netcatty 是一款跨平台的ssh工具,支持接入OpenAI Chat Completions协议的模型

设置-AI-提供商-添加提供商

复制代码
显示名称:customendpoint
API key: 你的api key
Base URL : https://open.example.com/v1
默认模型 :GLM-5.2

保存后点击启用

在连接主机后 点击右上角AI按钮 可以通过对话使用

最新版本的Netcatty已经支持 OpenAI Chat Completions(v1/chat/completions) 协议和Anthropic Messages(v1/messages)协议 额外支持google gemini协议

相关推荐
Raas10012 小时前
MAI Gateway (魔芋企业级AI网关) 私有化部署全攻略:AI网关怎么部署?附架构图
人工智能·安全·大模型·gateway·ai网关·mai gateway
hoaxxcj1 天前
零能力 Agent 骗过评测实测:朴素 harness 被骗 75%,加固后仍漏掉「抄答案」
网络·安全·大模型·工程化·ai实战
小七-七牛开发者1 天前
Agent 小知识|Agent 环境工程:部分可观测性、状态转移与执行隔离
ai·大模型·agent·claude·token·工作流·skill·claudecode·ai coding
console.log('npc')1 天前
DeepSeek Harness 使用教程
大模型·ai编程·deepseek·harness
大数据点灯人1 天前
【大模型】深度解答:OOV 与 Tokenizer 词汇表共用问题
人工智能·深度学习·ai·大模型·transformer
寻道码路1 天前
大模型工程化实战(三):LLM 灰度发布 + 自动熔断,1% 流量试错、指标劣化自动回滚
大模型·mlops·ai工程化·llm灰度发布·自动熔断·金丝雀·生产落地
李昊哲小课1 天前
大模型应用开发课程——项目 13~16 完整教程
人工智能·大模型·智能体
阿图灵2 天前
Hugging Face 平台全解析:AI 界的 GitHub,从模型库到企业级平台
人工智能·深度学习·开源·大模型·github·hugging face·ai平台