构造可靠的RAG应用—用户鉴权与输入

这部分笔记是关于RAG系统中用户鉴权与输入部分(下一篇关于文档索引与存储),挺适合作为checklist用于对自己的系统查漏补缺的,同样先放一张整体的架构图:

1、用户鉴权

用户鉴权是最基础的,supabase、firebase、aws cognito都能实现,其中也细分为好几个部分:

  • 访问控制:通过了鉴权的用户才能使用本系统
  • 数据安全:未授权的用户不能访问机密信息,防止数据泄露
  • 用户隐私:只有本用户才能访问自己的隐私数据
  • 合规:用户数据与隐私需要满足法律规定
  • 责任归属:任何操作都需要关联到具体的用户上,如果有可以操作可以迅速定位
  • 个性化:允许用户进行一些preference的设置

2、输入防护

当用户输入敏感信息或者有害信息的时候需要进行防护,可以用Llama Guard、Sagemaker实现,细分为以下几个部分:

  • 匿名化:用户的输入中如果有个人隐私信息需要将其去除掉(例如名字、邮箱等)
  • 限制子字符串:防止sql注入等攻击
  • 限制主题:比如对于国内政治相关的不能聊,懂得都懂
  • 限制代码:防止可执行的代码注入
  • 限制语言:最好对语言也进行限制,不然容易出现错误的回答
  • 检测prompt注入:对于想注入prompt,将llm带歪的输入也要进行限制
  • 限制token数量:防止成本太高或者超了context window

3、重写查询语句

当用户的输入能通过输入防护之后,还需要对其查询语句进行重写,因为用户的输入可能会很模糊,或者需要一些特定的上下文信息。下面有一些具体的方法:

  • 基于历史的重写:例如"a和b哪个更好?","比较这两者"这两个查询,后者应该被重写为"比较a和b"
  • 创建子查询:例如"比较a和b"这个查询,通过创造"a的特点是什么"+"b的特点是什么"这两个更加具体的子查询效果通常会更好
  • 创建相似的查询:通过同义词、领域知识等方式创造多个相似的查询语句可以增加检索到正确文档的概率,例如对"a的特点是什么"创造相似的语句:"a的缺点和优点是什么"

附原文:www.rungalileo.io/blog/master...

相关推荐
goehou5 小时前
MCP 查数实战:让 LLM 安全地查数据库(只读账号、SQL 校验、参数漂移)
数据库·ai·llm·教程·mcp·function calling
阿坡RPA6 小时前
GitHub 11万star:AI拆软件神器保姆级实操教程
aigc
AI创界者6 小时前
结构型模式的现代化演进:深入 Python 高级特性的装饰器与代理模式
人工智能·aigc
Sayai8 小时前
ComfyUI 一键换衣 2.0:FLUX Fill 服装一致性工作流全模型清单与新版避坑指南(12G 显存实测跑通)
人工智能·aigc·flux·图生图·comfyui
桃西西呀9 小时前
LangGraph4j之一:客服请求分诊既要循环又要分流,我用 LangGraph4j 把控制流抽成了数据
人工智能·llm·ai编程
用户7217465882611 小时前
默认校验只覆盖 3.18%:bl dataset validate 抽样窗与 capability 三种返回态的字段级拆解
llm·agent·ai编程
Csvn11 小时前
延迟别再看平均值了:AI 应用指标与告警实战(O03)
人工智能·aigc·agent
程序员大狐狸12 小时前
Ultra X7 358H 笔记本电脑,寻找本地用于编码的最强大模型,实测 21.0 tok/s,上下文 256K
llm·ai编程
用户83145509803112 小时前
如一 Agent 架构解读(四):异步整理——压缩不该堵住用户
人工智能·llm
小虎AI生活12 小时前
三天11万星的逆天开源REA,逆向分析一切,软件开发的门槛被打到了零,最该慌的为什么不是大厂?
aigc·ai编程