搭建个人知识库,支持Word、PDF、txt等,一般电脑也能玩。

你好,我是郭震

本地部署大模型,再构建个人知识库,跑自己的文档、数据等,有很多好处。

比如,隐私的财务数据可以借力AI大模型做总结,股票数据实时接入到大模型做数据分析,个人word文档批量读取做总结等。

本篇教程继续系列上一篇教程:自己电脑搭建个人知识库,一般电脑也能玩(支持通义千问、GPT等)。在此基础上,扩展支持PDF和txt文件的读取。

错过上篇教程的,我简单再在这里和大家回顾一下。我提出的方案基于LLM大模型+文档检索方法,具有的优势:

充分释放大模型能力,因为使用的是文档检索,而不是语义向量所以检索会更加高效,大大提升了回复效率;同时对电脑的性能要求直接降到最低,一般电脑也能玩起来了。

你需要做的前期准备

  1. 准备一台8G以上内存的电脑,无显卡也问题不大;

  2. 再会一点Python安装包的技能,基本就是一条命令:pip install 安装包的名字

总结来说,使用本地大模型(qwen:7b)+ 文档搜索工具(whoosh),这个方案不花一分钱,一般电脑又能玩。

整体界面和使用demo如下所示,支持多个文件加载,包括PDF,docx等word文档和txt格式,每个文件最大支持到200M:

实现上面功能的代码,我已经完整放在公众号里,大家下面回复:知识库,即可领取完整代码文件:

这是第一步,通过界面加载不同类型的本地文档和数据,如下读取了:财务数据1.docx:

再次拖动小明收支账本.pdf到界面,加载后自动显示已处理,因为是在本地进行,并且使用了whoosh检索工具,加载速度非常快:

PDF读取在此使用比较常用的PyPDF2,大家只需要pip install PyPDF2安装即可使用,开源免费。

只需要下面几行代码,我们就可以读取PDF内容。

然后再把文档加入到whoose的索引库,代码如下所示,为后续本地检索提供基础文件数据,这就是我们的个人知识库:

等输入「小明收支账本」关键词时,很快就能从本地知识库检索到,如下所示。此处代码使用了模糊查询,所以命中概率会大幅提升:

可以看到命中文件为PDF类型,并且显示查询到的内容:

紧接着会自动调用大模型做文档总结分析,这里使用通义千问大模型,因为它是开源的,关于详细的部署教程,大家可以参考之前教程,链接在这里:自己电脑搭建AI大模型详细教程,支持通义千问、Llama3、接口调用等。

这是搭建个人知识库最有价值的地方,当自动检索出文档后,会自动输到大模型中,然后自动做总结分析,比较方便。同时,利用大模型的总结能力,总结还是比较全面的:

最后总结一下

目前代码支持的功能,包括:

1 支持多种文件:你可以加载 PDF、Word(.docx)、TXT 等格式,文件最大支持到 200M。

2 加载速度快:因为使用的是 Whoosh 检索工具,拖动文件到界面,直接秒处理。

3 大模型辅助分析:比如搜索"小明收支账本",系统会自动检索相关内容,还能用大模型给出智能总结,堪称你的私人助理。

后面会扩展更多实用功能,欢迎关注。

以上全文2308字,8张图。如果这篇文章觉得对你有用,可否点个关注。给我个三连击:点赞、转发和在看。若可以再给我加个⭐️,谢谢你看我的文章,我们下篇再见!

相关推荐
火星技术1 小时前
WORD/PDF/EXCEL/PDF等格式的转换软件
pdf·word·excel
流形填表1 小时前
Word表格批量提取数据到Excel,Word导出到Excel,我爱excel
word·excel
java排坑日记4 小时前
poi-tl+kkviewfile实现生成pdf业务报告
java·pdf·word
小华同学ai6 小时前
PDFMathTranslate: Star13.8k,一款基于AI的PDF文档全文双语翻译PDF文档全文双语翻译,保留格式神器,你应该需要它
python·ai·pdf·机器翻译·翻译·自动 翻译
qq197836630812 小时前
Python 批量生成Word 合同
开发语言·python·自动化·word
夏兮颜☆16 小时前
【react-pdf】实现在线pdf加载——翻页加载和下拉滚动加载
javascript·react.js·pdf
woshiyouxiuren17 小时前
c#集成itext7导出pdf,包含表格
pdf
Channing Lewis19 小时前
python识别outlook邮件并且将pdf文件作为附件发送邮件
python·pdf·outlook
reasonsummer1 天前
【办公类-47-02】20250103 课题资料快速打印(单个docx转PDF,多个pdf合并一个PDF 打印)
python·pdf