Dify框架下的基于RAG流程的政务检索平台

项目需求:

项目需要实现对于41个公司规章制度文件的检索,输出检索出自文件名称、命中的问题答案内容,并且保证原始规章制度的格式输出,不允许加工修改。

项目方案:

模型使用DeepSeek-R1-70B基于ollama搭建,平台基于Dify搭建,RAG基于Dify中成熟的流程引擎实现。对于用户的提问首先进行知识库检索,输出的内容分2个分支,第一个分支进入LLM大模型,第二个分支进入代码执行模块提取出出处标题和内容。两个分支同时进入变量聚合器实现2个分支结果的合并,最终进入结束节点,输出最终结果。

提示词prompt:

复制代码
你是一个系统助手,使用以下内容作为你学习的知识。

<context>

</context>

回答用户的问题时,如果在知识库中可以找到与问题最相关的原文,就输出原文内容;如果在知识库中找不到,就说不知道。

知识库构建:

在知识库的构建过程中,文章分段采用通用的分段模式,分段最大长度4000,重叠长度50。然后人工对人段结果进行修正微调。索引模式采用向量检索+全文检索这样的混合检索模式,其中向量检索Embedding 模型使用bge-large-zh-v1.5,排序Rerank 模型使用bge-reranker-large模型,其他参数TopK设置为0,阈值为0.7。

相关推荐
lihui_cbdd4 分钟前
MLFF 环境安装教程:MACE / Egret / AIMNet2 / SO3LR
运维·人工智能·计算化学
Black蜡笔小新6 分钟前
零代码、全流程可视化,企业私有化AI训练推理一体工作站DLTM重构企业AI开发新模式
人工智能·重构
newsxun8 分钟前
AI进入真实照护场景:添康加速构建智慧康养新能力
大数据·人工智能·物联网
m0_46644103詹湛15 分钟前
定价的艺术
大数据·人工智能·ai·创业创新
十年一梦惊觉醒18 分钟前
BERT模型应用智能客服方案
人工智能·深度学习·bert
快乐得小萝卜19 分钟前
笔记:TREX工具-1
笔记·深度学习·机器学习
暴躁小师兄数据学院20 分钟前
【AI大模型应用开发工程师特训笔记】第04讲(第 2 章):Python 项目企业级开发规范
人工智能·笔记·python
UXbot29 分钟前
无需设计经验也能做原型:AI辅助工具功能评测
前端·人工智能·低代码·ui·ios·交互
2601_9594779131 分钟前
Vatee:面向成熟用户的综合服务评估
大数据·人工智能·安全·ux