LLMs之AgentDevP:FastGPT的简介、安装和使用方法、案例应用之详细攻略

LLMs之AgentDevP:FastGPT的简介、安装和使用方法、案例应用之详细攻略

目录

FastGPT的简介

[1、FastGPT 的核心特点](#1、FastGPT 的核心特点)

[1.1. 应用编排能力](#1.1. 应用编排能力)

[1.2. 强大的知识库能力](#1.2. 强大的知识库能力)

[1.3. 完善的应用调试与评估](#1.3. 完善的应用调试与评估)

[1.4. 全面的 OpenAPI 接口](#1.4. 全面的 OpenAPI 接口)

[1.5. 便捷的运营与分享能力](#1.5. 便捷的运营与分享能力)

[1.6. 其他特性](#1.6. 其他特性)

[2. 商业使用与协议](#2. 商业使用与协议)

FastGPT的安装和使用方法

[1. 快速部署 (使用 Sealos)](#1. 快速部署 (使用 Sealos))

[2. 本地开发与部署](#2. 本地开发与部署)

[3. API 使用](#3. API 使用)

FastGPT的案例应用

[1. 相关官方项目](#1. 相关官方项目)

[2. 第三方生态与集成](#2. 第三方生态与集成)


FastGPT的简介

2023年8月,FastGPT 是一个基于大型语言模型(LLMs)构建的 AI Agent 构建平台。它提供了一整套开箱即用的功能,包括数据处理、模型调用、RAG(检索增强生成)检索以及通过 Flow 可视化进行工作流编排的能力。这使得用户可以轻松开发和部署复杂的问答系统及其他应用场景,而无需进行繁琐的设置或配置。

GitHub地址https://github.com/labring/FastGPT

1、FastGPT 的核心特点

根据其路线图(RoadMap),FastGPT 的核心特点可以分为以下几个方面:

1.1. 应用编排能力

>> 可视化工作流: 支持通过 Flow 可视化界面进行工作流编排,实现复杂的应用逻辑。

>> 多种工作流类型: 包括对话工作流和插件工作流。

>> 基础 RPA 节点: 内置了基础的机器人流程自动化(RPA)节点,用于执行自动化任务。

>> Agent 模式: 支持构建具备自主规划和执行能力的 AI 代理。

>> AI 生成工作流: 计划支持通过 AI 自动生成工作流。

1.2. 强大的知识库能力

>> 多种数据源支持: 支持手动输入、直接分段、QA 拆分等多种导入方式。支持的文件格式包括 txt, md, html, pdf, docx, pptx, csv, xlsx。此外,还支持从 URL 读取内容和批量导入 CSV 文件。

>> 高级检索功能: 采用混合检索(Hybrid Search)和重排(Rerank)技术,以提升检索的准确性。

>> 灵活的知识库管理: 支持多个知识库的复用和混合使用,并且可以记录数据块(chunk)的修改与删除。

>> API 知识库: 允许通过 API 对接外部知识源。

>> 模块化设计: RAG 模块支持热插拔,方便用户根据需求进行定制。

1.3. 完善的应用调试与评估

>> 单点搜索测试: 提供知识库单点搜索测试功能,方便验证检索效果。

>> 实时反馈与修正: 在对话过程中可以反馈引用来源,并支持对引用进行修改和删除。

>> 完整的调用链路日志: 记录了从用户输入到模型输出的完整调用链路,便于问题排查。

>> 高级调试模式: 为高级编排提供了 DeBug 调试模式和应用节点日志。

>> 应用评测: 内置应用评测功能,用于评估 AI 应用的效果。

1.4. 全面的 OpenAPI 接口

>> 对齐 GPT 接口: 提供与 OpenAI GPT completions 接口对齐的 Chat 模式接口,方便迁移和集成。

>> CRUD 操作: 提供针对知识库和对话的创建(Create)、读取(Read)、更新(Update)、删除(Delete)的全套 API。

>> 自动化接口文档: 提供自动化的 OpenAPI 接口文档。

1.5. 便捷的运营与分享能力

>> 免登录分享: 支持创建免登录即可访问的分享窗口,方便应用传播。

>> Iframe 嵌入: 支持通过 Iframe 将应用一键嵌入到现有网站中。

>> 统一对话管理: 运营人员可以统一查阅所有对话记录,并对数据进行标注。

>> 运营日志: 提供应用运营相关的日志,便于分析和监控。

1.6. 其他特性

>> 可视化模型配置: 用户可以通过界面直观地配置所使用的 AI 模型。

>> 语音能力: 支持语音输入和语音输出,并且可以配置为语音输入、语音回答的模式。

>> 模糊输入提示: 为用户提供输入建议,提升交互体验。

>> 模板市场: 提供丰富的应用模板,帮助用户快速启动项目。

2. 商业使用与协议

>> 开源协议: 项目遵循 FastGPT Open Source License。

>> 商用规则: 允许将 FastGPT 作为后台服务直接商用,但禁止以 SaaS 服务的形式提供给他人。任何形式的商用服务都必须保留相关的版权信息,除非获得商业授权。

>> 商业版: 官方提供商业版,有明确的定价策略,可通过邮件 Dennis@sealos.io 联系。

FastGPT的安装和使用方法

1. 快速部署 (使用 Sealos)

官方推荐使用 Sealos 服务进行一键部署。

优点: 无需用户自己采购服务器和准备域名,支持高并发和动态伸缩。其数据库应用基于 Kubeblocks,IO 性能优于简单的 Docker 容器部署。

教程: https://doc.fastgpt.io/docs/introduction/development/sealos/

2. 本地开发与部署

技术栈: 项目主要使用 NextJs, TypeScript, ChakraUI 作为前端框架,后端依赖 MongoDB 和 PostgreSQL(需要 PG Vector 插件)或 Milvus 进行向量存储。

步骤:

环境准备: 根据 dev.md 文档准备好相应的开发环境和依赖。

配置文件: 参考《系统配置文件说明》文档,配置数据库、AI 模型等关键信息。

https://doc.fastgpt.io/docs/introduction/development/configuration/

多模型支持: 若需接入多个大模型(如 Azure, 文心一言等),可参考《多模型配置方案》。

启动项目: 按照开发文档中的指引启动本地服务。

版本更新: 项目提供了《版本更新/升级介绍》文档,指导用户如何平滑升级到新版本。

https://doc.fastgpt.io/docs/upgrading

3. API 使用

FastGPT 提供了丰富的 OpenAPI 文档,开发者可以根据文档说明,将 FastGPT 的知识库问答、对话等能力集成到自己的应用中。

https://doc.fastgpt.io/docs/introduction/development/openapi/intro

FastGPT的案例应用

1. 相关官方项目

FastGPT-plugin: FastGPT 的插件集合,用于扩展其功能。

Laf: 一个 Serverless 开发平台,可以帮助用户在 3 分钟内快速接入第三方应用。

Sealos: 一键部署包括 FastGPT 在内的各类集群应用。

One API: 一个多模型管理项目,支持统一管理 Azure、文心一言等多种大模型 API。

2. 第三方生态与集成

PPIO 派欧云: 提供高性价比的开源模型 API 和 GPU 容器调用服务。

AI Proxy: 国内的模型聚合服务。

SiliconCloud (硅基流动): 一个开源模型在线体验平台。

企业微信和飞书接入: 项目文档中提供了将 FastGPT 机器人接入企业微信和飞书的详细教程。

相关推荐
前端小同学3 小时前
逆向还原Claude for Chrome - 学习顶尖公司是如何做浏览器agent的
人工智能·chrome·agent
小欣加油3 小时前
python123 机器学习基础练习2
人工智能·python·深度学习·机器学习
DuHz3 小时前
Stable Video Diffusion:将潜在视频扩散模型扩展到大规模数据集——论文阅读
论文阅读·人工智能·深度学习·神经网络·算法·音视频
学境思源AcademicIdeas3 小时前
我用ChatGPT完成选题的全过程复盘
人工智能·chatgpt
cxr8283 小时前
BMAD方法论:敏捷价值、原则映射与全生命周期技术
人工智能·智能体·ai赋能
荼蘼3 小时前
自然语言处理——情感分析 <上>
人工智能·自然语言处理
STLearner3 小时前
AI论文速读 | 当大语言模型遇上时间序列:大语言模型能否执行多步时间序列推理与推断
大数据·论文阅读·人工智能·深度学习·机器学习·语言模型·自然语言处理
IT_陈寒3 小时前
3年Java老手:我用这5个Spring Boot优化技巧将系统吞吐量提升了200%!🚀
前端·人工智能·后端
Dongsheng_20193 小时前
【汽车篇】AI深度学习在汽车激光焊接外观检测的应用
人工智能·汽车