FastGPT 构建本地知识库,让 AI 更懂你

通过 FastGPT 构建专属知识库,只要提供一些资料,我们可以快速构建一个懂你的 GPT,也可以快速构建一个产品客服助手。我们看下我构建的应用效果。

是不是还不错,我们开始正文吧!

FastGPT 介绍

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!

官网地址:doc.fastgpt.in/docs/intro/

通过导入文档或已有问答对进行训练,让 AI 模型能根据你的文档以交互式对话方式回答问题。

FastGPT 采用直观的可视化界面设计,为各种应用场景提供了丰富实用的功能。通过简洁易懂的操作步骤,可以轻松完成 AI 客服的创建和训练流程。

3. 自动数据预处理

提供手动输入、直接分段、LLM 自动处理和 CSV 等多种数据导入途径,其中"直接分段"支持通过 PDF、WORD、Markdown 和 CSV 文档内容作为上下文。FastGPT 会自动对文本数据进行预处理、向量化和 QA 分割,节省手动训练时间,提升效能。

基于 Flow 模块的工作流编排,可以帮助你设计更加复杂的问答流程。例如查询数据库、查询库存、预约实验室等。

FastGPT 对外的 API 接口对齐了 OpenAI 官方接口,可以直接接入现有的 GPT 应用,也可以轻松集成到企业微信、公众号、飞书等平台。

知识库核心流程图

它支持直接接入 Claude、GPT-3.5、GPT-4.0;国内的文心一言、讯飞星火、通义千问。

从而提供问答服务。

Docker 安装

Docker 官网:www.docker.com/get-started...

直接点击 Download for Mac 下载安装包,Mac 安装包根据处理器分为 Intel Chip 和 Apple Chip,我们可以查看本机获取你电脑的处理器。

这里我机器是 Intel 处理,选择 Intel Chip 开始下载。

下载完毕,双击安装包 Docker.dmg,安装 Docker,即可。

安装 FastGPT

安装好 docker 之后,进入命令行工具,执行以下命令:

ruby 复制代码
mkdir fastgpt
cd fastgpt
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/files/deploy/fastgpt/docker-compose.yml
curl -O https://raw.githubusercontent.com/labring/FastGPT/main/projects/app/data/config.json

修改 docker-compose.yml中的OPENAI_BASE_URLCHAT_API_KEY即可,对应为 API 的地址(别忘记加/v1)和 key。

启动容器

bash 复制代码
# 在 docker-compose.yml 同级目录下执行
docker-compose pull
docker-compose up -d

执行 docker-compose pull 的时候需要下载容器数据,所以如果网速比较慢,可能需要几分钟。

看到如下信息就表示安装成功啦。打开浏览器,访问 localhost:3000,就能看到我们的 FastGPT 安装成功啦!

登陆用户名默认是 root,密码是 docker-compose.yml 文件中的 DEFAULT_ROOT_PSW,我们登陆进去。

创建专属知识库

选择知识库,点创建,我想创建一个能咨询我如何以非科班学历进大厂的经历的知识库,取名叫「伍六七大厂之路」,我们确认创建。

导入我之前写好的文章 pdf 资料。

我们看到还有预估价格,不用担心,自己本地搭建的系统,不需要单独付费,我们看个人中心余额就知道了。

确认导入之后,根据文档大小,需要处理的时间长短不一样,耐心等待。我这里文档 3300 字,大概 2 分钟完事。

完事点进去之后,能看到数据集的分段情况。

到这里,我们的知识库就构建完毕了,下一步,进入测试。

测试知识库

我们输入测试文本,点击测试,就能很好的回答关于文档中的问题啦。

创建关联知识库的 GPT 应用

我取个响亮的名字,「伍六七破局之路」,选择类型「知识库+对话引导」

确认创建之后,关联知识库,这里可以选择多个知识库,比如我可以把我做副业的文档构建知识库之后,也关联上,这样就能创建一个了解你整个人生的专属 GPT 模型啦。

我们看一下 GPT 是否能根据知识库正确的回答问题。

OpenAI 官方 ChatGPT3.5 是不支持上传资料的,GPT-4.0 又需要高昂的费用,就算是国内的文心一言 4.0 支持类似功能,也需要开通会员才能使用。

如果你公司有个产品,产品有清晰的说明文档,那么通过这种方式搭建一个产品服务助手绝对是最低成本、最小耗时方案啦。

如果你在做 IP,把你的经历上传到知识库,把应用分享给你的粉丝,也能提升粉丝对你专业度的认可!


扫描下面二维码,加我好友,回复「技术交流群」免费进群,免费领取我整理的 Java 面试资料,一起学习 AI 编程。

点击进群领资料

相关推荐
小陈phd2 小时前
OpenCV从入门到精通实战(九)——基于dlib的疲劳监测 ear计算
人工智能·opencv·计算机视觉
Guofu_Liao3 小时前
大语言模型---LoRA简介;LoRA的优势;LoRA训练步骤;总结
人工智能·语言模型·自然语言处理·矩阵·llama
ZHOU_WUYI7 小时前
3.langchain中的prompt模板 (few shot examples in chat models)
人工智能·langchain·prompt
如若1237 小时前
主要用于图像的颜色提取、替换以及区域修改
人工智能·opencv·计算机视觉
老艾的AI世界8 小时前
AI翻唱神器,一键用你喜欢的歌手翻唱他人的曲目(附下载链接)
人工智能·深度学习·神经网络·机器学习·ai·ai翻唱·ai唱歌·ai歌曲
DK221518 小时前
机器学习系列----关联分析
人工智能·机器学习
Robot2518 小时前
Figure 02迎重大升级!!人形机器人独角兽[Figure AI]商业化加速
人工智能·机器人·微信公众平台
浊酒南街8 小时前
Statsmodels之OLS回归
人工智能·数据挖掘·回归
畅联云平台9 小时前
美畅物联丨智能分析,安全管控:视频汇聚平台助力智慧工地建设
人工智能·物联网
加密新世界9 小时前
优化 Solana 程序
人工智能·算法·计算机视觉