本地部署 FastGPT

本地部署 FastGPT

  • [1. FastGPT 是什么](#1. FastGPT 是什么)
  • [2. 部署 FastGPT](#2. 部署 FastGPT)

1. FastGPT 是什么

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

2. 部署 FastGPT

创建 docker-compose.yml 文件,仅需把 CHAT_API_KEY 修改成 openai key 即可。如果需要使用中转或 oneapi 还需要修改 OPENAI_BASE_URL,

复制代码
cat << EOF > docker-compose.yml
# 非 host 版本, 不使用本机代理
version: '3.3'
services:
  pg:
    image: ankane/pgvector:v0.4.2 # docker
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.4.2 # 阿里云
    container_name: pg
    restart: always
    ports: # 生产环境建议不要暴露
      - 5432:5432
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后,重启镜像是不会生效的。需要把持久化数据删除再重启,才有效果
      - POSTGRES_USER=username
      - POSTGRES_PASSWORD=password
      - POSTGRES_DB=postgres
    volumes:
      - ./pg/data:/var/lib/postgresql/data
  mongo:
    image: mongo:5.0.18
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18 # 阿里云
    container_name: mongo
    restart: always
    ports: # 生产环境建议不要暴露
      - 27017:27017
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后,重启镜像是不会生效的。需要把持久化数据删除再重启,才有效果
      - MONGO_INITDB_ROOT_USERNAME=username
      - MONGO_INITDB_ROOT_PASSWORD=password
    volumes:
      - ./mongo/data:/data/db
  fastgpt:
    container_name: fastgpt
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:latest # 阿里云
    image: ghcr.io/labring/fastgpt:latest # github
    ports:
      - 3000:3000
    networks:
      - fastgpt
    depends_on:
      - mongo
      - pg
    restart: always
    environment:
      # root 密码,用户名为: root
      - DEFAULT_ROOT_PSW=1234
      # 中转地址,如果是用官方号,不需要管
      - OPENAI_BASE_URL=https://api.openai.com/v1
      - CHAT_API_KEY=sk-xxxx
      - DB_MAX_LINK=5 # database max link
      - TOKEN_KEY=any
      - ROOT_KEY=root_key
      # mongo 配置,不需要改. 如果连不上,可能需要去掉 ?authSource=admin
      - MONGODB_URI=mongodb://username:password@mongo:27017/fastgpt?authSource=admin
      # pg配置. 不需要改
      - PG_URL=postgresql://username:password@pg:5432/postgres
networks:
  fastgpt:
EOF

部署 FastGPT,

复制代码
docker-compose up -d

完结!

相关推荐
FranzLiszt184720 天前
基于One API 将本地 Ollama 模型接入 FastGPT
langchain·fastgpt·rag·ollama·one api
努力的小Qin22 天前
oneapi私有化部署failed to get gpt-3.5-turbo token encoder解决方案
gpt-3·oneapi·fastgpt
新知图书24 天前
FastGPT工作流的节点
人工智能·fastgpt·ai agent·智能体·大模型应用开发
新知图书1 个月前
FastGPT开发一个智能客服案例
人工智能·fastgpt·ai agent·智能体·大模型应用
musicwind3 个月前
fastgpt 社区版探究:mongo db 全文检索算法探秘
科技·fastgpt·rag·mongo db
汪小敏同学6 个月前
fastgpt本地运行起来的 服务配置
fastgpt
云村小威6 个月前
FastGPT本地构建工作流高级编排(最新4.11.0)
语言模型·agent·知识库·fastgpt
mzak9 个月前
Linux系统(OpenEuler22.03-LTS)部署FastGPT
linux·人工智能·fastgpt
q_q王9 个月前
本地知识库工具FASTGPT的安装与搭建
python·大模型·llm·知识库·fastgpt
追光天使9 个月前
FastGPT安装前,系统环境准备工作?
fastgpt·win 系统准备工作