基于AnythingLLM的本地知识库:最简单的AI应用落地

背景:

  • 在人工智能迅猛发展的当下,众多开发者和企业都致力于将AI技术实际应用于各类场景。AnythingLLM为实现简单且高效的AI应用落地提供了一种途径,尤其在构建本地知识库方面独具优势。本地知识库犹如组织或个人积累的知识宝藏。对企业而言,它涵盖业务流程、产品信息、客户数据等关键要素;对个人来说,则可能包含学习笔记、研究资料等。传统本地知识库存在检索不便、知识关联度挖掘不足等问题,而AnythingLLM能让本地知识库"焕发生机"。

AnythingLLM搭建本地知识库中的流程

如果没有安装anythingLLM可以区看看我前面两篇文章,关于这个anythingLLM的安装和本地大模型deepseek的基础文章。

  • 1.打开anythingLLM并创建工作区

  • 2.修改工作区设置

记得拉到最底下,保存。

  • 3.导入文件,可以是pdf,表格,甚至链接。

我们这里用表格为例

选择电脑本地的文件就行,选择后会再my documents上面显示你的文件,这个文件还没有加入你的工作区,点击move to workspace

移动到工作区后会有一个嵌入按钮,首次加载时间可能会比较久,具体看你的文件类型和大小,

如果提示正在更新请等更新完成,更新完成知识库里面的文件会变成如下状态,可以移除

到这里久可以关掉这个窗口,选择default来进入对话框,

到这里,我们的文件算是喂给ai了,接下来就是问ai关于知识库里面的内容了。

看到ai已经回答了,我们来检查一下

看到这里,发现ai回答的并不理想,因为我用的是笔记本的蒸馏模型并且参数只有8b,如果电脑算力够,上个32b的模型效果会好很多,我们现在改为api的方式是谁,其他配置不变

故意输入错误不存在的数据

测试成功。

这个官网的api是671B满血版的方式可以找到,如果本地能用上高参数的模型,效果也是一样的,本地知识库搭建还是很吃硬件的,另外anythingLLM是本地程序,如果想要共享,这个还可以通过api的方式,分享出去,请参考API密钥自行使用应用程序对接。如下图。

优势与价值

  • 数据安全与隐私
    本地知识库存于本地环境,相较于外部云服务,极大地保障了数据安全与隐私。这对数据敏感的企业和个人至关重要,例如金融机构的内部风险评估资料、医疗行业的患者病历等,都可在本地知识库安全存储与查询,无需担忧数据泄露风险。
  • 定制化
    基于本地知识库构建的AI应用可根据自身需求高度定制。无论是特定行业的专业知识体系,还是个人独特的知识管理风格,都能在AnythingLLM框架下得以满足,从而使本地知识库能更好地服务不同用户群体,提高知识利用效率。
  • 成本效益
    与需要高额订阅费用的大型云AI服务不同,基于AnythingLLM构建本地知识库的AI应用在成本上优势明显。它只需利用本地计算资源,无需支付大量云服务费用,对预算有限的中小企业和个人开发者而言是经济实惠的选择。
相关推荐
机器之心7 分钟前
YOLOe 问世,实时观察一切,统一开放物体检测和分割
人工智能·openai
机器之心13 分钟前
超越DeepSeek-R1关键RL算法GRPO,CMU「元强化微调」新范式登场
人工智能·openai
FIT2CLOUD飞致云18 分钟前
AI应用加速落地丨MaxKB正在被政府、公共事业、教育和医疗行业用户广泛采纳
人工智能·开源
新智元19 分钟前
首篇 AI 自写论文通过 ICLR 2025 同行评审!6.25 高分碾压人类,AI 独挑科研大梁
人工智能·openai
弈秋00121 分钟前
llamaindex实现企业级RAG应用(一)
人工智能·深度学习·自然语言处理·transformer
新智元24 分钟前
突发,陈立武接任英特尔 CEO! 老黄、苏姿丰后,华人称霸芯片三巨头
人工智能
QBorfy27 分钟前
07篇 AI从零开始 - LangChain学习与实战(4) LangServer部署
前端·人工智能·deepseek
冴羽37 分钟前
Trae 上线了两大重磅功能:远程开发和自定义模型配置
人工智能·trae·ai 编程
37手游后端团队1 小时前
聊聊提示词注入攻击那些事
人工智能·后端·程序员
三三木木七1 小时前
自然语言处理预训练模型的研究综述
人工智能·自然语言处理