利用RAGflow和LM Studio建立食品法规问答系统

食品企业在管理标准、法规，特别是食品原料、特殊食品法规时，难以通过速查法规得到准确的结果。随着AI技术的发展，互联网上出现很多AI知识库的解决方案。

经过一轮测试，找到问题抓手、打通业务底层逻辑、对齐行业颗粒度、沉淀方法论、打通业务壁垒、形成业务闭环、提升用户感知度、赋能AI新赛道。

作者测试了钉钉内置AI、Defy.AI、fastGPT、FoodGPT、通义法睿、RAGflow+LM Studio、AnythingLLM，优缺点如下:

AI	优点	缺点
钉钉内置AI	零代码部署、免费	一本正经地胡说八道、不保证数据安全。知识库占用云盘空间
Defy.AI	在线版零代码部署，本地版安全可控	在线版收费、不保证数据安全，本地部署难度高。一本正经地胡说八道
AnythingLLM	零代码本地部署	一本正经地胡说八道
fastGPT	在线版零代码部署，本地版安全可控。	在线版收费、不保证数据安全，本地部署难度高。本地、在线版都收费。
FoodGPT	回答精准，针对食品行业优化	收费，不能定制
通义法睿	回答精准、详实	不能定制
RAGflow+LM Studio	本地低代码部署，回答较为精准。自由选择模型。可定制。	性能不太好

收费模式：每个问题多少钱或按照embedding和提问小号的Token数收费。

电脑至少需要4核CPU、16GB内存、50GB硬盘

需要魔法上网，或者自己配置Docker、Git、HuggingFace国内源

Windows 推荐使用企业版或服务器版

需要基础的读Windows和Linux代码能力，解决报错的能力

按照GitHub infiniflow/ragflow的步骤部署即可，注意软件不要放在C盘！注意软件不要放在C盘！注意软件不要放在C盘！

配置好Model Providers，Base url填写http://host.docker.internal:[LM Studio端口号]/v1/models

切换到Knowledge Base，上传文件即可，支持word、excel、pdf、txt、图片等格式；可以选择文件类型，如图书、文献、法律等；模型不要改

上传后要在Action列中点绿色开始键，开始embedding，完成后才算完成知识库导入

切换到Chat标签页，点击Create an Assisstant

Knowledgebase选中导入的知识库，切换到Model Setting中Model选择模型，Freedom选择Precise

大功告成！可以提几个问题测试模型是否正常运行

与ChatGPT一样，可以直接向AI提问，见下图

总体效果挺好，回答基本不会胡说八道，并给出了出处。

优点：

配置简单。
1. 众所周知，N卡普遍显存很小，但是A卡配置ROCm很麻烦。LM Studio可以一键部署CUDA或ROCm，免除复杂的环境配置。
2. RAGflow运行在Docker，直接免除用户配置anaconda、python、pytorch等软件。
很好地减轻了AI一本正经的胡说八道的问题。
RAG Flow支持手动微调Embedding分块。
完全本地运行，数据安全可控。