本地部署 FastGPT

本地部署 FastGPT

  • [1. FastGPT 是什么](#1. FastGPT 是什么)
  • [2. 部署 FastGPT](#2. 部署 FastGPT)

1. FastGPT 是什么

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

2. 部署 FastGPT

创建 docker-compose.yml 文件,仅需把 CHAT_API_KEY 修改成 openai key 即可。如果需要使用中转或 oneapi 还需要修改 OPENAI_BASE_URL,

cat << EOF > docker-compose.yml
# 非 host 版本, 不使用本机代理
version: '3.3'
services:
  pg:
    image: ankane/pgvector:v0.4.2 # docker
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.4.2 # 阿里云
    container_name: pg
    restart: always
    ports: # 生产环境建议不要暴露
      - 5432:5432
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后,重启镜像是不会生效的。需要把持久化数据删除再重启,才有效果
      - POSTGRES_USER=username
      - POSTGRES_PASSWORD=password
      - POSTGRES_DB=postgres
    volumes:
      - ./pg/data:/var/lib/postgresql/data
  mongo:
    image: mongo:5.0.18
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18 # 阿里云
    container_name: mongo
    restart: always
    ports: # 生产环境建议不要暴露
      - 27017:27017
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后,重启镜像是不会生效的。需要把持久化数据删除再重启,才有效果
      - MONGO_INITDB_ROOT_USERNAME=username
      - MONGO_INITDB_ROOT_PASSWORD=password
    volumes:
      - ./mongo/data:/data/db
  fastgpt:
    container_name: fastgpt
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:latest # 阿里云
    image: ghcr.io/labring/fastgpt:latest # github
    ports:
      - 3000:3000
    networks:
      - fastgpt
    depends_on:
      - mongo
      - pg
    restart: always
    environment:
      # root 密码,用户名为: root
      - DEFAULT_ROOT_PSW=1234
      # 中转地址,如果是用官方号,不需要管
      - OPENAI_BASE_URL=https://api.openai.com/v1
      - CHAT_API_KEY=sk-xxxx
      - DB_MAX_LINK=5 # database max link
      - TOKEN_KEY=any
      - ROOT_KEY=root_key
      # mongo 配置,不需要改. 如果连不上,可能需要去掉 ?authSource=admin
      - MONGODB_URI=mongodb://username:password@mongo:27017/fastgpt?authSource=admin
      # pg配置. 不需要改
      - PG_URL=postgresql://username:password@pg:5432/postgres
networks:
  fastgpt:
EOF

部署 FastGPT,

docker-compose up -d

完结!

相关推荐
华尔街的幻觉13 天前
FastGPT部署通义千问Qwen和智谱glm模型|OneAPI配置免费的第三方API
oneapi·通义千问·fastgpt·智谱ai·硅基流动
AI_小站17 天前
【AI开源项目】FastGPT - 快速部署FastGPT以及使用知识库的两种方式!
人工智能·开源·prompt·大语言模型·产品经理·ai大模型·fastgpt
AI_小站22 天前
【AI工作流】FastGPT - 深入解析FastGPT工作流编排:从基础到高级应用的全面指南
人工智能·程序人生·语言模型·大模型·llm·fastgpt·大模型应用
z千鑫25 天前
【AI工作流】FastGPT - 深入解析FastGPT工作流编排:从基础到高级应用的全面指南
人工智能·ai·chatgpt·开源·ai编程·fastgpt
z千鑫1 个月前
【AI开源项目】FastGPT- 快速部署FastGPT以及使用知识库的两种方式!
人工智能·ai·chatgpt·开源·ai编程·fastgpt·codemoss能用ai
warrah1 个月前
fastGpt
oneapi·fastgpt·ollama
努力的小Qin1 个月前
Fastgpt学习(4)- 使用Github Action构建Docker镜像
docker·容器·github·fastgpt·1024程序员节
努力的小Qin1 个月前
FastGPT本地开发 之 通过Navicat管理MongoDB、PostgreSQL数据库
数据库·mongodb·postgresql·大模型·fastgpt
努力的小Qin2 个月前
Fastgpt本地化部署 - 以MAC为例
人工智能·语言模型·fastgpt
Linux猿2 个月前
828华为云征文 | 云服务器Flexus X实例:RAG 开源项目 FastGPT 部署,玩转大模型
服务器·人工智能·机器学习·华为云·fastgpt·flexus云服务器x实例·华为云服务器