大模型攻击

合天网安实验室3 小时前
ai安全·gcg算法·大模型攻击
Prompt is Search：GCG 与大模型对抗后缀攻击在上一次的技术分享文章中，着重讨论了 RAG 时代的数据投毒问题，也就是当外部文档被检索、拼接并送入大模型上下文时，数据就不再只是被动的信息来源，它可能变成一段能够影响模型行为的代码，详细可以搜索《Data is Code：RAG 时代的数据投毒与大模型上下文劫持》
我是有底线的