本文较长，建议点赞收藏。更多AI大模型应用开发学习视频及资料，在智泊AI。
最近有小伙伴问，有没有其他好用的免费 AI知识库搭建工具。我跟你说，还真有，在国内有一个叫FastGPT的工具，是可以搭建AI知识库的，而且免费开源，口碑也很好。它可以下载到本地，私有化搭建部署，目前在Github上面已经获得了26k Star，功能非常强大！
FastGPT通过将智能对话与可视化编排完美结合，无论是开发者还是业务人员，都能轻松打造专属的搭建AI知识库问答系统。
FastGPT介绍和特性
FastGPT 好比企业知识库领域的"WordPress"------装好模板、拖好流程、接好模型，就能上线一个可溯源、可扩展的 LLM 知识库应用，使用下来在知识库管理方面非常强大。
📚
主要有以下特性
-
开源，可以本地化部署，保护数据隐私
-
识别文档功能强大，可以导入各式各样的文档及数据，智能处理PDF文档的复杂结构，保留图片、表格和LaTeX公式
-
搭建方便，可视化工作流编排，对齐 OpenAI 官方接口，一键接入企业微信、公众号、飞书、钉钉等平台，让 AI 能力融入业务场景
-
FastGPT上的知识库可以打包成MCP Server，供n8n在生产内容的时候调用，补齐n8n在知识库上短板，这块内容后面单独出一期介绍，欢迎关注。
官方部署文档已放在文末
功能架构图
典型场景
- 对内：HR 手册、IT 运维、财务制度"随问随答"。
- 对外：电商客服、官网咨询、产品 FAQ 7×24 秒回。
- 嵌入式：把"小聊窗"嵌进 CRM/ERP，销售问"这份合同折扣底线多少？"直接返回答案+条款页码。
- 数据报表：集成 FineReport 后，领导说"本季度利润下滑原因"→ 自动跑数、出图、给结论。
本期主要分享
- 如何Linux云服务器部署FastGPT（推荐）
- 如何通过Windos搭建FastGPT
- FastGPT接入免费智能问答、嵌入、重排序模型
- 知识库创建 & 新媒体写作抬杠大师应用搭建
- 私有化部署AI知识库对个人&企业的意义
基础准备
在开始之前，如果没有计算机基础，建议了解以下以下内容：Docker技术、Windos下 WSL2安装、Ubuntu 常用命令、VPN&网络基础、AI编程工具基础等内容。每个点看30-40分钟即可，相关快速入门学习材料可以关注公众号，菜单栏加科叔二维码发你。
在实际部署中会遇到各种问题，你可以把问题发给AI编程工具，比如Trae，如今的AI编程工具非常强大，大部分问题都可以解决。你把AI当成你的编程教练，在项目中一边做一边学，这样效率更高。参考AI编程合集
一、如何通过Linux云服务器部署FastGPT（推荐）
FastGPT可以在个人或者企业云服务器部署，最低2核4G就能跑起来，这里以常见服务器操作系统Ubuntu 20.0.4为例，默认需要已经安装Docker 和 docker compose
官方文档参考：doc.fastgpt.io/docs/introd...
- 获取 docker-compose.yml 和 config.json 配置文件
bash
cd /home/fastgpt
bash <(curl -fsSL https://doc.fastgpt.cn/deploy/install.sh) --region=cn --vector=pg🌟
官方这两个文件下载下来，测试下来是无法直接使用，需要修改config.json 和 docker-compose.yml 将redis、mongodb、postgres 账号密码对齐，否则docker容器大概率无法正常启动。
如有需要可以加科叔，修改好的文件，直接发你。
-
运行docker容器
docker compose up -d
服务器放 3000端口（FastGPT默认端口），具体登录地址为，http://公网I地址:3000/ ，登录成功
二、如何通过Windos搭建
如果没有云服务器，个人电脑也可以部署，这里以Windos11为例，其他操作系统也可以参考官方安装指南:doc.fastgpt.cn/docs/introd...
首先安装WSL2，搭建Window11+Ubuntu双系统
🍰
WSL2（Windows Subsystem for Linux 2）是微软为 Windows 10/11 提供的"轻量级 Linux 虚拟机"，能在保持 Windows 桌面体验的同时，获得几乎原生的 Linux 内核与性能。
使用WSL2有两个前提：
-
- 开启CPU虚拟化，大部分电脑都默认开启，如果没有开启可以问一下DeepSeek或者Kimi
如何查看是否开启
Ctrl + Shift + Esc → 性能 → CPU → 查看"虚拟化"是否显示"已启用"
-
- 在Windos功能页面，搜索启用或关闭Windsow功能，开启Hyper-v 和 开启适用于Linux的 Windos子系统，勾选完毕后，按照提示重新启动电脑
勾选 Hyper-V
勾选 适用于Linux的Windows 子系统
安装WSL
在Windos搜索CMD,以管理员方式运行
安装WSL,输入以下命令，并配置Ubutu子系统用户和密码，
css
wsl --instal
此时 Ubuntu-24.04 应处于Running状态
安装Docker Desktop
在Microsoft Store中搜索docker
在安装时候，务必勾选 Use WSL2 instead of Hyper-v
双击打开，如果看到这样的界面，我们的Docker就安装好了
再次检查以下 确认是否勾选 Use the WSL 2 based engine
然后在 Resources 查看 WSL intergation 勾选Ubuntu选项
就可以在上面通过WSL2 安装的Ubuntu 里能直接运行docker (Enable integration with additional distros)
我们在打开命令行，并T通过 WSL 命令进入 WSL2中, 查看 docker命令正常
通过Docker Cmpose 快速部署 FastGPT
参考官方文档：doc.fastgpt.io/docs/introd...
查看Windos下部署方式
🦄
重要！在WSL2 Ubuntu下当前用户目录下创建 fastgpt目录，后续所有操作都在此文件夹中进行，可以规避很多Windos 下使用WS2 Uubntu 兼容性问题！
bash
cd /home/keshu
mkdir fastgpt
拉取config.json 和 docker-compose.yml文件
bash
cd /home/keshu/fastgpt
bash <(curl -fsSL https://doc.fastgpt.cn/deploy/install.sh) --region=cn --vector=pg拉取正常
启动容器
docker-compose up -d容器加载完毕
但是查看docer 后台，fastgpt没有正常运行
我们把报错原因丢给AI
显示是由于 fastgpt 服务的数据库连接配置不正确导致的，需要修改config.json 和 docker-compose.yml redis、mongodb、postgres 账号密码对齐。
修改完毕以后，重启，服务正常启动
docker compose down
docker compose up -dfastgpt默认在本地3000端口打开，账号密码：root/1234 ，该项配置可以在docker-compose.yml中修改。点击登陆http://localhost:3000/
登录界面如下
三、FastGPT接入免费智能问答、嵌入、重排序模型
依次点击，模型提供商 - 模型渠道 - 新增渠道
本次所有模型我们都从智谱开放平台www.bigmodel.cn/接入，有大量免费模型，后续随着使用效果，可以自行修改，灵活搭配其他厂商模型。
对话模型(需要自己新增)：glm-4-fash-250414 参考：docs.bigmodel.cn/api-referen...
文本嵌入模型：embedding-3
重排序模型：rerank
测试接入成功
在模型配置中勾选启用
四、知识库创建和管理
这里创建一个最基础的知识库测试一下
上传一个有关新媒体写作技巧的PDF
先全部默认，保存提交
等待文本嵌入模型处理完成
五、创建新媒体写作抬杠大师应用
在左侧工作台 - 简易应用 - 创建一个新媒体写作抬杠大师应用
做这个应用的背景，就是之前看到过一篇文章，讲的是新媒体写作是和传统写作有很大不同的，在选题和标题占据很大的部分，有很多机巧。恰好之前下了一本新媒体写作的书，懒得看了，就想着丢进知识库，一边写一边问。
给到下面提示词
你是一个经验丰富、言辞犀利、标准严苛的微信公众号写作专家。当用户提交写作选题后，参考知识库内容，你需要严格按照公众号爆款文章的标准，挑出10个问题，进行批判。针对每个问题点，必须给出具体、专业的批判分析。最后基于批判结果，提供3个更具爆款潜力的选题方向建议，并为每个方向构思5个具有冲击力的标题方案。注意：必须保持专业批判态度，绝不迎合！一定要搜索知识库。这里记得关联知识库，选择刚才的创建的写作大师知识库，点击保存并发布应用
接着测试一下，比如给到下面提示词
我想写，分享一个免费开源免费知识库搭建工具fastgpt，小白秒变专家很快写作大师进行了批判，生成速度非常快！而且FastGPT在引用知识库标记了引用来源
最后给出了选题方向和标题方面建议
六、私有化部署AI知识库对个人&企业的意义
对个人来说，个人可以通过AI知识库构建属于你的"第二大脑"
- 自媒体博主可以把历史文章、聊天记录、图片等扔进知识库，每当有问题，AI 当场生成专属定制文章、内容大纲
- 工程人员/律师/程序员：把过往项目案例、判决书、代码片段丢给知识库，比如当客户问"类似项目报价？"AI秒拉出历史方案和报价模板，大大提高检索效率
- 学生可以把教材、错题、笔记做成知识库 ，通过问答式复习，提高记忆和学习效果
对企业来说，可以把"组织失忆"变成"数据资产"
- 客服中心
京东 618 案例：AI 知识库让 70% 重复问题被机器人解决，人工坐席减少 40%，客诉率降 18%。
- 制造业研发
把 20 年设备手册、维修记录、故障图谱入库 ，工程师现场扫码问异响怎么修？AI 给出历史 3 次同类故障+解决方案，停机时间缩 30%。
- 金融合规
券商把监管条文、处罚案例、内部制度做成知识库，新业务上线前，AI 自动出具合规风险报告，过会率提升、罚款减少。
- Sales 赋能
把竞品话术、客户异议、赢单案例丢进知识库， 销售拜访前 1 分钟生成"针对该客户的 5 个痛点+反击话术"
企业甚至可以把知识库应用程序连同大模型LLM一起在本地机房私有化部署，把数据生命周期（采集→传输→存储→使用→共享→销毁）全部放在企业内网完成。
从而实现 知识调取仅限内网、模型不联网，数据不出域，从源头杜绝第三方偷用、偷偷训练或跨境传输的风险，真正做到我的数据我做主。
附fastGPT官方文档：
学习资源推荐
如果你想更深入地学习大模型，以下是一些非常有价值的学习资源，这些资源将帮助你从不同角度学习大模型，提升你的实践能力。
本文较长，建议点赞收藏。更多AI大模型应用开发学习视频及资料，在智泊AI。