ChatGPT之搭建API代理服务

简介

一行Docker命令部署的 OpenAI/GPT API代理,支持SSE流式返回、腾讯云函数 。

项目地址:https://github.com/easychen/openai-api-proxy

这个项目可以自行搭建 OpenAI API 代理服务器工具,该项目是代理的服务器端,不是客户端。需要部署到可以联通 OpenAI API 的网络环境后访问。

Docker部署

快速运行

Proxy地址为 http://\${IP}:9000

bash 复制代码
# 拉镜像
docker pull easychen/ai.level06.com:latest


# 运行
docker run \
-d \
-p 9000:9000 \
--name openai-proxy \
easychen/ai.level06.com:latest 

额外配置

  1. PORT: 服务端口
  2. PROXY_KEY: 代理访问KEY,用于限制访问
  3. TIMEOUT:请求超时时间,默认30秒

如果想限制其他人使用自己的代理,可以加上参数 PROXY_KEY,这样只有携带 PROXY_KEY 的请求才能被代理。

bash 复制代码
docker run \
-d \
-p 9000:9000 \
-e PROXY_KEY=coderjia123 \
--name openai-proxy \
easychen/ai.level06.com:latest 

接口使用方法

  1. 将原来项目中 OpenAI 的请求地址( 比如 https://api.openai.com )中的域名变更为本 proxy 的域名/IP(注意带上端口号);
  2. 如果设置了 PROXY_KEY,在 OpenAIkey 后加上 :<PROXY_KEY>,如果没有设置,则不需修改。

局限性

当前只支持 GETPOST 方法的接口,不支持文件相关接口。

参考文献

CoderJia:代理OpenAI API的几种简单方式

CoderJia:WildCard充值OpenAI API,并使用GPT-4

WildCard开通ChatGPT4

相关推荐
阿杰学AI17 分钟前
AI核心知识86——大语言模型之 Superalignment(简洁且通俗易懂版)
人工智能·深度学习·ai·语言模型·超级对齐·superalignment·#ai安全
阿杰学AI26 分钟前
AI核心知识85——大语言模型之 RLAIF(简洁且通俗易懂版)
人工智能·深度学习·ai·语言模型·aigc·rlaihf·基于ai反馈的强化学习
苦逼IT运维1 小时前
从 0 到 1 理解 Kubernetes:一次“破坏式”学习实践(一)
linux·学习·docker·容器·kubernetes
萧曵 丶1 小时前
Docker 面试题
运维·docker·容器
m0_603888711 小时前
Mitigating Long-Tail Bias via Prompt-Controlled Diffusion Augmentation
ai·prompt·论文速览
Elastic 中国社区官方博客2 小时前
跳过 MLOps:通过 Cloud Connect 使用 EIS 为自管理 Elasticsearch 提供托管云推理
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
为什么不问问神奇的海螺呢丶2 小时前
n9e categraf docker 监控配置
运维·docker·容器
青树寒鸦2 小时前
wsl的docker备份mongo和迁移
运维·mongodb·docker·容器
海绵宝宝de派小星3 小时前
经典CNN架构:LeNet、AlexNet、VGG、GoogLeNet、ResNet
人工智能·神经网络·ai·cnn
涛思数据(TDengine)3 小时前
TDengine 推出 “AI 问答”,打造时序数据库智能支持新体验
ai·国产数据库·工业数据库