AI-Gateway:一款整合了OpenAI、Anthropic、LLama2等大语言模型的统一API接口

关于AI-Gateway

AI-Gateway是一款针对大语言模型的统一API接口,该接口可以用在应用程序和托管的大语言模型(LLM)之间,该工具可以允许我们通过一个统一的API接口将API请求转发给OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini等大语言模型。

功能特性

1、功能非常快,体积非常小;

2、跨多模型和提供商实现负载均衡;

3、支持回退以确保应用程序保持弹性;

4、默认配置下,支持自动重试;

5、可根据需要安装中间件;

6、支持多种大语言模型;

支持的SDK

|-------------------|--------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| 编程语言 | 支持的SDK |
| Node.js / JS / TS | Portkey SDK OpenAI SDK LangchainJS LlamaIndex.TS |
| Python | Portkey SDK OpenAI SDK Langchain LlamaIndex |
| Go | go-openai |
| Java | openai-java |
| Rust | async-openai |
| Ruby | ruby-openai |

工具安装&部署

本地部署

如果你熟悉Node.js和npx的话,可以直接在本地安装和部署你自己的AI-Gateway:

复制代码
npx @portkey-ai/gateway

安装完成后,就可以打开浏览器并访问下列地址使用AI-Gateway了:

复制代码
http://localhost:8787

Cloudflare Worker部署

使用下列命令将该项目源码克隆至本地:

复制代码
git clone https://github.com/portkey-ai/gateway

然后安装NPM依赖:

复制代码
cd gateway

npm i

使用wrangler部署即可:

复制代码
npm run deploy

Node.js部署

使用下列命令将该项目源码克隆至本地:

复制代码
git clone https://github.com/portkey-ai/gateway

然后安装NPM依赖:

复制代码
cd gateway

npm i

npm run build

然后运行Node服务器:

复制代码
node build/start-server.js

Docker部署

广大研究人员也可以直接使用Docker来运行AI-Gateway:

复制代码
docker run -d -p 8787:8787 portkeyai/gateway:latest

Docker-Compose部署

使用下列命令下载Compose文件:

复制代码
wget "https://raw.githubusercontent.com/Portkey-AI/gateway/main/docker-compose.yaml"

然后运行Docker-Compose即可:

复制代码
docker compose up -d

服务当前会运行并监听8787端口。

AI-Gateway配置

AI-Gateway支持通过自定义配置来实现多功能路由策略,例如回退、负载均衡和自动重连等。

我们可以通过x-portkey-config Header在调用OpenAI时应用下列配置信息:

复制代码
// 使用OpenAI JS SDK时

const client = new OpenAI({

  baseURL: "http://127.0.0.1:8787", // The gateway URL

  defaultHeaders: {

    'x-portkey-config': {.. your config here ..},

  }

});

下面给出的样例配置会在回退至Gemini Pro之前尝试向OpenAI发送5次请求:

复制代码
{

  "retry": { "count": 5 },

  "strategy": { "mode": "fallback" },

  "targets": [{

      "provider": "openai",

      "api_key": "sk-***"

    },{

      "provider": "google",

      "api_key": "gt5***",

      "override_params": {"model": "gemini-pro"}

  }]

}

下面的配置将启动负载均衡功能:

复制代码
{

  "strategy": { "mode": "loadbalance" },

  "targets": [{

      "provider": "openai",

      "api_key": "sk-***",

      "weight": "0.5"

    },{

      "provider": "openai",

      "api_key": "sk-***",

      "weight": "0.5"

    }

  ]

}

工具使用

下面的例子中,我们将通过AI-Gateway尝试向OpenAI发送一个Chat completions调用:

复制代码
curl '127.0.0.1:8787/v1/chat/completions' \

  -H 'x-portkey-provider: openai' \

  -H "Authorization: Bearer $OPENAI_KEY" \

  -H 'Content-Type: application/json' \

  -d '{"messages": [{"role": "user","content": "Say this is test."}], "max_tokens": 20, "model": "gpt-4"}'

许可证协议

本项目的开发与发布遵循MIT开源许可证协议。

项目地址

AI-Gateway :【GitHub传送门】

参考资料

AI Gateway - Simplify Your LLM Integrations | Portkey

https://hub.docker.com/r/portkeyai/gateway

相关推荐
QA老兵的AI实战手记几秒前
别再用人工盯 AI 幻觉了:我手搓了一套带“代码审查拦截”的 AI 效能大屏(附源码)
人工智能
火山引擎开发者社区4 分钟前
APMPlus・看得见的 Agent(三) | Agent 说完成,结果却不对?APMPlus Agent 轨迹帮你查清执行过程
人工智能
羲云网络7 分钟前
Claude Fable 5.2 创意编程分析:程序化生成、多智能体协作与工程验收
人工智能·大语言模型·blender·游戏开发
Linye10 分钟前
HTML 流程图连线交叉看不清?聊聊画布避障折线与跳弧实现
前端·人工智能
weixin_4691636939 分钟前
金融租赁项目管理:维普时代以混合模型+AI实现管控与效率兼得
人工智能·金融
框架那些事儿1 小时前
深入 Pi 源码:一个优秀的 Agent,是如何管理上下文的?
人工智能·ai编程·全栈
Java内核笔记1 小时前
方法级 trace 看不出第几轮:给 Agent 补一层轮次维度
人工智能·spring boot·后端
AAA修煤气灶刘哥1 小时前
DSH Super-agent 双层架构:如何兼顾后台执行与持续响应
人工智能·后端·设计模式
阿里云大数据AI技术1 小时前
Hologres jev 能帮业务做什么?7 个场景,一句提问
人工智能
武子康1 小时前
H3-World 扩展跳跃与开门:新动作怎样进入训练数据?
大数据·人工智能·算法