使用 Docker 部署 1.6k 的无限制免费 GPT-3.5-Turbo API 服务

前两天 OpenAI 不是刚宣布 GPT-3.5 可以免注册访问嘛,紧接着就有大佬在 Github 上开源了一个利用免登录 ChatGPT Web 提供的无限制免费 GPT-3.5-Turbo API 服务------FreeGPT35。

Github 地址

使用 Docker 部署

可以使用 Github 的 Docker 镜像:

css 复制代码
docker run -d --name freegpt35 -p 3040:3040 ghcr.io/missuo/freegpt35

或者也可以使用其他 Docker 镜像仓库:

css 复制代码
docker run -d --name freegpt35 -p 3040:3040 missuo/freegpt35

启动之后可以在服务器终端进行测试:

arduino 复制代码
curl http://127.0.0.1:3040/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer any_string_you_like" \
  -d '{
    "model": "gpt-3.5-turbo",
    "messages": [
      {
        "role": "user",
        "content": "Hello!"
      }
    ],
    "stream": true
    }'

使用 Docker Compose 部署

作者有介绍两个不同的 yaml 部署:一个是仅提供 GPT35 服务,另一个是结合 ChatGPT-Next-Web 一起进行部署。

我这边偷个懒,直接选择第二种一起进行部署:

bash 复制代码
mkdir freegpt35 && cd freegpt35
wget -O compose.yaml https://raw.githubusercontent.com/missuo/FreeGPT35/main/compose_with_next_chat.yaml
docker compose up -d

部署好之后,我们再来看看如何使用。

如何使用

在部署好 GPT35 服务之后,我们可以搭配 ChatGPT-Next-Web、Lobe-Chat等应用来使用它。这里以 ChatGPT-Next-Web 为例。

  • 打开 NextWeb 的页面,进入到设置中
  • 打开自定义接口,模型服务器选择 OpenAI,接口地址就是「你服务器的 IP + 3040」。API Key 随便写一个,自定义模型写 -all,+gpt-3.5-turbo
  • 我们新建一个对话进行测试,发现已经成功~

注意

⚠️还是同样的问题,因为 OpenAI 的 ChatGPT 其实没 Open(不支持国内的地域),所以大家的服务器选择就得找一些其他 region,否则还是无法使用。

相关推荐
墨风如雪3 小时前
混元生图2.1震撼开源:AI作画进入“高定”时代,还能完美写字!
aigc
飞哥数智坊5 小时前
解决AI幻觉,只能死磕模型?OpenAI给出不一样的思路
人工智能·openai
AiTop1006 小时前
腾讯推出AI CLI工具CodeBuddy,国内首家同时支持插件、IDE和CLI三种形态的AI编程工具厂商
ide·人工智能·ai·aigc·ai编程
伊玛目的门徒6 小时前
告别 OpenAI SDK:如何使用 Python requests 库调用大模型 API(例如百度的ernie-4.5-turbo)
python·openai·requests·大模型调用·ernie-4.5-turbo
山楂树下懒猴子7 小时前
ChatAI项目-ChatGPT-SDK组件工程
人工智能·chatgpt·junit·https·log4j·intellij-idea·mybatis
老马啊老马7 小时前
NestJS 构建 AI 流式聊天服务:从 0 到 1 实现实时对话功能
aigc
安思派Anspire8 小时前
你不需要 GraphRAG!构建一个多策略图谱思维(Multi-Strategy Graph Thinking)AI Agent
aigc·openai·agent
阑梦清川9 小时前
mulerun上线了一个重磅级的智能体--educard generator(知识可视化)
aigc
Zhikes9 小时前
MOSS-TTSD: 文本对话式语音克隆
aigc
蔡俊锋9 小时前
如何利用 ChatGPT 辅助写作
ai·chatgpt·ai写作