本地知识库工具FASTGPT的安装与搭建

FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,将智能对话与可视化编排完美结合,让 AI 应用开发变得简单自然。无论您是开发者还是业务人员,都能轻松打造专属的 AI 应用。

今天来试着搭建下,使用docker安装比较简单,推荐使用docker安装。

看下推荐配置,fastgpt还分了不同的版本,一般的电脑配置都可以。

1、首先贴上git地址与文档地址

https://github.com/labring/FastGPT

https://doc.tryfastgpt.ai/docs/intro/

2、docker、docker-compose的安装部署参考Ubuntu上docker、docker-compose的安装,win的wsl也适用。

3、下载代码

复制代码
git clone https://github.com/labring/FastGPT

4、下载config文件,也可直接新建文件将下面代码复制进去。

复制代码
// 已使用 json5 进行解析,会自动去掉注释,无需手动去除{  "feConfigs": {    "lafEnv": "https://laf.dev", // laf环境。 https://laf.run (杭州阿里云) ,或者私有化的laf环境。如果使用 Laf openapi 功能,需要最新版的 laf 。    "mcpServerProxyEndpoint": "" // mcp server 代理地址,例如: http://localhost:3005  },  "systemEnv": {    "vectorMaxProcess": 10, // 向量处理线程数量    "qaMaxProcess": 10, // 问答拆分线程数量    "vlmMaxProcess": 10, // 图片理解模型最大处理进程    "tokenWorkers": 30, // Token 计算线程保持数,会持续占用内存,不能设置太大。    "hnswEfSearch": 100, // 向量搜索参数,仅对 PG 和 OB 生效。越大,搜索越精确,但是速度越慢。设置为100,有99%+精度。    "customPdfParse": {      "url": "", // 自定义 PDF 解析服务地址      "key": "", // 自定义 PDF 解析服务密钥      "doc2xKey": "", // doc2x 服务密钥      "price": 0 // PDF 解析服务价格    }  }}

5、接着下载docker-compose.yml文件

复制代码
curl -o docker-compose.yml https://raw.githubusercontent.com/labring/FastGPT/main/deploy/docker/docker-compose-pgvector.yml

也可像上一步一样新建一个yml文件,直接粘贴进去。

6、docker 拉取镜像,启动

复制代码
sudo docker-compose up -d

7、默认端口3000,默认账号root 密码 1234,密码可在docker-compose.yml文件中修改。记得修改后重启即可。最好将地址映射成https的地址。

8、接着咱们来配置本地部署的大模型工具ollama

按照如图所示依次填写。

然后再在模型配置页面添加ollama下面安装好的模型即可。

这就是我搭建的整个过程,大家在搭建的过程中有什么问题的话欢迎留言,大家一起讨论学习。

相关推荐
拥抱AGI4 分钟前
Qwen3.5开源矩阵震撼发布!从0.8B到397B,不同规模模型性能、显存、速度深度对比与选型指南来了!
人工智能·学习·程序员·开源·大模型·大模型训练·qwen3.5
假如梵高是飞行员5 分钟前
RAG技术近三年工程实践进化综述
llm·agent
comedate12 分钟前
【OpenClaw】 8GB 显卡本地大模型部署指南
大模型·本地部署·ollama·vibe coding
唐叔在学习13 分钟前
Python移动端应用消息提醒开发实践
开发语言·python
好家伙VCC13 分钟前
**发散创新:基于Python与OpenCV的视频流帧级分析实战**在当前人工智能与计算机视觉飞速发展的背景下
java·人工智能·python·计算机视觉
xiaotao13114 分钟前
阶段零:IDE选择 与 Jupyter Notebook / Lab 使用
ide·人工智能·python·jupyter
nix.gnehc15 分钟前
实战部署|Ollama\+Qwen2\.5:3b\+Open WebUI 本地AI助手搭建全记录(附避坑指南)
人工智能·大模型·llm·ollama
Pocker_Spades_A20 分钟前
Python快速入门专业版(五十七)——POST请求与模拟登录:从表单分析到实战(以测试网站为例)
开发语言·python
Highcharts.js23 分钟前
企业级数据可视化|BI 仪表板数据中台工业监控平台的选择分析
人工智能·python·信息可视化·数据挖掘·数据分析·highcharts
橙露28 分钟前
Seaborn 高级可视化:统计图表制作与报告导出
python