学习使用Dify搭建本地知识库

  Dify支持创建本地知识库,然后在应用中使用知识库。本文学习使用Dify搭建本地知识库并在之前创建的聊天应用中使用知识库的基本方式。

  Dify中创建知识库需要使用Text Embedding模型对上传的文档进行向量化处理,因此在LM Studio中查找Text Embedding模型,由于电脑配置不高,最终选择尺寸较小的ext-embedding-nomic-embed-text-v1.5模型。

  在LM Studio中加载上述Text Embedding模型,然后在Dify的设置->模型供应商->LM Studio中添加该模型的服务引用,如下图所示。

  切换到Dify的知识库页签,点击下图所示的创建知识库,输入知识库名称后,点击创建按钮创建知识库。

  选择导入已有文本,百度了几本小说的txt文件上传到知识库,然后点击下一步按钮。

  选择Embedding模型,然后点击"保存并处理"按钮开始对上传的文档进行处理,此时在LM Studio的日志中也能看到Dify在调用Embedding模型处理文档。

  文档处理好之后,打开前面文章中创建的问答应用,在左侧中间位置的知识库区域中点击添加按钮,添加本文中创建的知识库。

  接着即可在应用左侧的"测试与预览"窗口中进行知识库问答测试,如下图所示,针对提问的问题,大模型给出的回答都会附带引用文档,点击文档可以查看与答案关联的文本片段。不过目前的回答都不准,后续还得学习如何提升问答结果质量。

参考文献:

1https://www.ctyun.cn/document/11057595/11060900