使用 Docker 部署 1.6k 的无限制免费 GPT-3.5-Turbo API 服务

前两天 OpenAI 不是刚宣布 GPT-3.5 可以免注册访问嘛,紧接着就有大佬在 Github 上开源了一个利用免登录 ChatGPT Web 提供的无限制免费 GPT-3.5-Turbo API 服务------FreeGPT35。

Github 地址

使用 Docker 部署

可以使用 Github 的 Docker 镜像:

css 复制代码
docker run -d --name freegpt35 -p 3040:3040 ghcr.io/missuo/freegpt35

或者也可以使用其他 Docker 镜像仓库:

css 复制代码
docker run -d --name freegpt35 -p 3040:3040 missuo/freegpt35

启动之后可以在服务器终端进行测试:

arduino 复制代码
curl http://127.0.0.1:3040/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer any_string_you_like" \
  -d '{
    "model": "gpt-3.5-turbo",
    "messages": [
      {
        "role": "user",
        "content": "Hello!"
      }
    ],
    "stream": true
    }'

使用 Docker Compose 部署

作者有介绍两个不同的 yaml 部署:一个是仅提供 GPT35 服务,另一个是结合 ChatGPT-Next-Web 一起进行部署。

我这边偷个懒,直接选择第二种一起进行部署:

bash 复制代码
mkdir freegpt35 && cd freegpt35
wget -O compose.yaml https://raw.githubusercontent.com/missuo/FreeGPT35/main/compose_with_next_chat.yaml
docker compose up -d

部署好之后,我们再来看看如何使用。

如何使用

在部署好 GPT35 服务之后,我们可以搭配 ChatGPT-Next-Web、Lobe-Chat等应用来使用它。这里以 ChatGPT-Next-Web 为例。

  • 打开 NextWeb 的页面,进入到设置中
  • 打开自定义接口,模型服务器选择 OpenAI,接口地址就是「你服务器的 IP + 3040」。API Key 随便写一个,自定义模型写 -all,+gpt-3.5-turbo
  • 我们新建一个对话进行测试,发现已经成功~

注意

⚠️还是同样的问题,因为 OpenAI 的 ChatGPT 其实没 Open(不支持国内的地域),所以大家的服务器选择就得找一些其他 region,否则还是无法使用。

相关推荐
AI极客菌37 分钟前
Controlnet作者新作IC-light V2:基于FLUX训练,支持处理风格化图像,细节远高于SD1.5。
人工智能·计算机视觉·ai作画·stable diffusion·aigc·flux·人工智能作画
懒惰才能让科技进步5 小时前
从零学习大模型(十二)-----基于梯度的重要性剪枝(Gradient-based Pruning)
人工智能·深度学习·学习·算法·chatgpt·transformer·剪枝
水豚AI课代表7 小时前
分析报告、调研报告、工作方案等的提示词
大数据·人工智能·学习·chatgpt·aigc
程序员X小鹿9 小时前
全部免费!6款AI对口型神器,让照片开口说话唱歌,早晚用得上,建议收藏!(附保姆级教程)
aigc
真忒修斯之船9 小时前
大模型分布式训练并行技术(三)流水线并行
面试·llm·aigc
学习前端的小z11 小时前
【AIGC】如何通过ChatGPT轻松制作个性化GPTs应用
人工智能·chatgpt·aigc
DisonTangor11 小时前
苹果发布iOS 18.2首个公测版:Siri接入ChatGPT、iPhone 16拍照按钮有用了
ios·chatgpt·iphone
晨欣11 小时前
Elasticsearch和Lucene之间是什么关系?(ChatGPT回答)
elasticsearch·chatgpt·lucene
zzZ_CMing12 小时前
大语言模型训练的全过程:预训练、微调、RLHF
人工智能·自然语言处理·aigc
杰说新技术16 小时前
Meta AI最新推出的长视频语言理解多模态模型LongVU分享
人工智能·aigc