本地部署 FastGPT

本地部署 FastGPT

  • [1. FastGPT 是什么](#1. FastGPT 是什么)
  • [2. 部署 FastGPT](#2. 部署 FastGPT)

1. FastGPT 是什么

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

2. 部署 FastGPT

创建 docker-compose.yml 文件,仅需把 CHAT_API_KEY 修改成 openai key 即可。如果需要使用中转或 oneapi 还需要修改 OPENAI_BASE_URL,

复制代码
cat << EOF > docker-compose.yml
# 非 host 版本, 不使用本机代理
version: '3.3'
services:
  pg:
    image: ankane/pgvector:v0.4.2 # docker
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.4.2 # 阿里云
    container_name: pg
    restart: always
    ports: # 生产环境建议不要暴露
      - 5432:5432
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后,重启镜像是不会生效的。需要把持久化数据删除再重启,才有效果
      - POSTGRES_USER=username
      - POSTGRES_PASSWORD=password
      - POSTGRES_DB=postgres
    volumes:
      - ./pg/data:/var/lib/postgresql/data
  mongo:
    image: mongo:5.0.18
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18 # 阿里云
    container_name: mongo
    restart: always
    ports: # 生产环境建议不要暴露
      - 27017:27017
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后,重启镜像是不会生效的。需要把持久化数据删除再重启,才有效果
      - MONGO_INITDB_ROOT_USERNAME=username
      - MONGO_INITDB_ROOT_PASSWORD=password
    volumes:
      - ./mongo/data:/data/db
  fastgpt:
    container_name: fastgpt
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:latest # 阿里云
    image: ghcr.io/labring/fastgpt:latest # github
    ports:
      - 3000:3000
    networks:
      - fastgpt
    depends_on:
      - mongo
      - pg
    restart: always
    environment:
      # root 密码,用户名为: root
      - DEFAULT_ROOT_PSW=1234
      # 中转地址,如果是用官方号,不需要管
      - OPENAI_BASE_URL=https://api.openai.com/v1
      - CHAT_API_KEY=sk-xxxx
      - DB_MAX_LINK=5 # database max link
      - TOKEN_KEY=any
      - ROOT_KEY=root_key
      # mongo 配置,不需要改. 如果连不上,可能需要去掉 ?authSource=admin
      - MONGODB_URI=mongodb://username:password@mongo:27017/fastgpt?authSource=admin
      # pg配置. 不需要改
      - PG_URL=postgresql://username:password@pg:5432/postgres
networks:
  fastgpt:
EOF

部署 FastGPT,

复制代码
docker-compose up -d

完结!

相关推荐
mzak1 个月前
Linux系统(OpenEuler22.03-LTS)部署FastGPT
linux·人工智能·fastgpt
q_q王1 个月前
本地知识库工具FASTGPT的安装与搭建
python·大模型·llm·知识库·fastgpt
追光天使2 个月前
FastGPT安装前,系统环境准备工作?
fastgpt·win 系统准备工作
哈哈,柳暗花明2 个月前
【AI工具】FastGPT:开启高效智能问答新征程
人工智能·ai编程·fastgpt·ai工具
慕斯策划一场流浪2 个月前
fastGPT—前端开发获取api密钥调用机器人对话接口(HTML实现)
前端·html·fastgpt·fastgpt创建工作流·fastgpt创建密钥调用接口
太空眼睛3 个月前
【FastGPT】利用知识库创建AI智能助手
知识库·fastgpt·智能助手·智能体·deepseek·r1·满血版
sp42a4 个月前
Windows 上源码安装 FastGPT
ai·fastgpt·rag
伪装成塔的小兵4 个月前
Windows使用docker部署fastgpt出现的一些问题
windows·docker·容器·oneapi·fastgpt
人工智能小豪4 个月前
水务+AI应用探索(一)| FastGPT+DeepSeek 本地部署
人工智能·程序员·llm·清华大学·fastgpt·deepseek·本地化部署
产品媛Gloria Deng5 个月前
关于使用FastGPT 摸索的Q&A
agent·fastgpt·ai智能体