FastGPT本地构建工作流高级编排（最新4.11.0）

前言

一、本地部署

二、工作流编排

[2.1 配置大模型](#2.1 配置大模型)

[2.1.1 通过 OneAPI 接入模型](#2.1.1 通过 OneAPI 接入模型)

[2.2 创建知识库](#2.2 创建知识库)

[2.3 创建工作流](#2.3 创建工作流)

[2.4 示例讲解](#2.4 示例讲解)

前言

官网文档：Docker Compose 快速部署 | FastGPT

本篇主讲工作流编排实现基于知识库 | http请求+知识库 -> 大模型输出，将跳过docker安装等步骤，侧重于应用自定义流程及扩展。主包刚学习的时候也看了很多博主写的文件和视频，大部分偏向基本使用并没有告诉我各组件节点组合使用是否可行，还是需要自己摸索尝试。所以本篇文件希望给大家一点小灵感方便构建实现自己需求的agent！

一、本地部署

准备docker环境后可，可去GitHub找到需要的向量数据库，下载到本地。

注意配置文件有注释需要查看默认的登录账号以及密码

Linux 快速脚本

bash 复制代码

mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

# pgvector 版本(测试推荐，简单快捷)
curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-pgvector.yml
# oceanbase 版本（需要将init.sql和docker-compose.yml放在同一个文件夹，方便挂载）
# curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-oceanbase/docker-compose.yml
# curl -o init.sql https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-oceanbase/init.sql
# milvus 版本
# curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-milvus.yml
# zilliz 版本
# curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-zilliz.yml

config.json 文件也就是一些模型的配置：

bash 复制代码

{
  "systemEnv": {
    "vectorMaxProcess": 10, // 向量处理线程数量
    "qaMaxProcess": 10, // 问答拆分线程数量
    "vlmMaxProcess": 10, // 图片理解模型最大处理进程
    "tokenWorkers": 30, // Token 计算线程保持数，会持续占用内存，不能设置太大。
    "hnswEfSearch": 100, // 向量搜索参数，仅对 PG 和 OB 生效。越大，搜索越精确，但是速度越慢。设置为100，有99%+精度。
    "hnswMaxScanTuples": 100000, // 向量搜索最大扫描数据量，仅对 PG生效。
    "customPdfParse": {
      "url": "", // 自定义 PDF 解析服务地址
      "key": "", // 自定义 PDF 解析服务密钥
      "doc2xKey": "", // doc2x 服务密钥
      "price": 0 // PDF 解析服务价格
    }
  },
"llmModels": [{}], // 语言模型
"vectorModels": [{}], // 向量模型
"reRankModels": [{}], // 重排模型
}

将两个文件放在一个目录执行命令：

bash 复制代码

# 在 docker-compose.yml 同级目录下执行
docker-compose pull // 拉取容器
docker-compose up -d // 启动

二、工作流编排

2.1 配置大模型

在上面讲到config.json文件就是一些大模型的配置，源文件定义了需求模型，但是我们不能用，需要自己添加才行

首先需要新增一个模型渠道，我这里使用了通义千问，可根据自己拥有的模型新增。

接着把新增的模型启动即可，不然到后面没有模型选择🤦

2.1.1 通过 OneAPI 接入模型

教程：通过 OneAPI 接入模型 | FastGPT

项目地址：https://github.com/songquanpeng/one-api

很多博主都分享通过这种方式统一配置管理大模型，FastGPT 目前采用模型分离的部署方案，因为只兼容 OpenAI 的模型规范（OpenAI 不存在的模型采用一个较为通用的规范），并通过 One API 来实现对不同模型接口的统一。但是主包貌似没有找到mac包所以直接使用以上方法，fastgpt已接入了AI Proxy。