本地部署 FastGPT

本地部署 FastGPT

  • [1. FastGPT 是什么](#1. FastGPT 是什么)
  • [2. 部署 FastGPT](#2. 部署 FastGPT)

1. FastGPT 是什么

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

2. 部署 FastGPT

创建 docker-compose.yml 文件,仅需把 CHAT_API_KEY 修改成 openai key 即可。如果需要使用中转或 oneapi 还需要修改 OPENAI_BASE_URL,

cat << EOF > docker-compose.yml
# 非 host 版本, 不使用本机代理
version: '3.3'
services:
  pg:
    image: ankane/pgvector:v0.4.2 # docker
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/pgvector:v0.4.2 # 阿里云
    container_name: pg
    restart: always
    ports: # 生产环境建议不要暴露
      - 5432:5432
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后,重启镜像是不会生效的。需要把持久化数据删除再重启,才有效果
      - POSTGRES_USER=username
      - POSTGRES_PASSWORD=password
      - POSTGRES_DB=postgres
    volumes:
      - ./pg/data:/var/lib/postgresql/data
  mongo:
    image: mongo:5.0.18
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/mongo:5.0.18 # 阿里云
    container_name: mongo
    restart: always
    ports: # 生产环境建议不要暴露
      - 27017:27017
    networks:
      - fastgpt
    environment:
      # 这里的配置只有首次运行生效。修改后,重启镜像是不会生效的。需要把持久化数据删除再重启,才有效果
      - MONGO_INITDB_ROOT_USERNAME=username
      - MONGO_INITDB_ROOT_PASSWORD=password
    volumes:
      - ./mongo/data:/data/db
  fastgpt:
    container_name: fastgpt
    # image: registry.cn-hangzhou.aliyuncs.com/fastgpt/fastgpt:latest # 阿里云
    image: ghcr.io/labring/fastgpt:latest # github
    ports:
      - 3000:3000
    networks:
      - fastgpt
    depends_on:
      - mongo
      - pg
    restart: always
    environment:
      # root 密码,用户名为: root
      - DEFAULT_ROOT_PSW=1234
      # 中转地址,如果是用官方号,不需要管
      - OPENAI_BASE_URL=https://api.openai.com/v1
      - CHAT_API_KEY=sk-xxxx
      - DB_MAX_LINK=5 # database max link
      - TOKEN_KEY=any
      - ROOT_KEY=root_key
      # mongo 配置,不需要改. 如果连不上,可能需要去掉 ?authSource=admin
      - MONGODB_URI=mongodb://username:password@mongo:27017/fastgpt?authSource=admin
      # pg配置. 不需要改
      - PG_URL=postgresql://username:password@pg:5432/postgres
networks:
  fastgpt:
EOF

部署 FastGPT,

docker-compose up -d

完结!

相关推荐
GeekPlusA8 天前
大模型系列-fastgpt,ollama搭建本地知识库
人工智能·深度学习·aigc·知识库·fastgpt
problc21 天前
FastGPT如何增减用户
用户管理·fastgpt
洛阳泰山24 天前
Chainlit接入FastGpt接口完美对接,实现全新的用户聊天界面
python·ui·llm·fastgpt·chainlit
Linux猿2 个月前
FastGPT 知识库搜索测试功能解析
人工智能·机器学习·embedding·fastgpt·rag·向量模型
Linux猿2 个月前
【机器学习】FastGPT 知识库搜索测试功能解析
chatgpt·大模型·fastgpt·rag·本地手动部署
伪装成塔的小兵2 个月前
FastGPT连接OneAI接入网络模型
linux·运维·人工智能·docker·ai·文心一言·fastgpt
colorful_-_2 个月前
FastGPT源码部署,不使用docker
fastgpt
代码讲故事2 个月前
RAG 工业落地方案框架(Qanything、RAGFlow、FastGPT、智谱RAG)细节比对!CVPR自动驾驶最in挑战赛赛道,全球冠军被算力选手夺走了
人工智能·机器学习·自动驾驶·cvpr·fastgpt·rag·qanything
机器玄学实践者3 个月前
FastGPT部署
llm·agent·fastgpt
机器玄学实践者3 个月前
【AI工作流-AI-Agent】FastGPT新建应用并用openai接口调用
人工智能·chatgpt·llm·agent·fastgpt·工作流