ai 记忆安全 - ai 记忆安全技术,学习,经验文章

Capricorn1988

3 小时前

OWASP ASI06 记忆投毒：跨会话 AI 记忆安全的工程边界OWASP Agentic AI Top 10 将"记忆与上下文投毒"列为 ASI06。记忆投毒和提示注入的差别在于，提示注入通常随会话结束而重置，记忆投毒却可能把恶意内容写入长期记忆，并在后续交互中被重新触发。AI 记忆安全的关键，不只是过滤当前输入，还要控制哪些内容能够成为长期知识。