技术栈

提示注入

thesky123456
4 天前
防御·智能体·ai安全·面试准备·越狱·提示注入
智能体面试准备(十六):智能体安全实战——提示注入、越狱、工具滥用与防御上一篇《多智能体协作框架实战》讲的是"怎么把多个 Agent 组织起来干活"。但一旦 Agent 能调用工具、读写文件、发邮件、动数据库,它就从"聊天机器人"变成了"有执行权的数字员工"——攻击面瞬间爆炸。这一篇把智能体安全(Agent Security)从概念拉到工程:四类核心威胁(提示注入 / 越狱 / 工具滥用 / 数据泄露)→ 攻击链路拆解 → 防御分层方案 → 最小可运行防护代码 → 红蓝对抗思路。配合前面的《MCP》《多智能体》一起看,刚好串成"能力越强、护栏越要跟上"的完整认知。
Rubin智造社
2 个月前
零信任·一人公司·创业读书笔记·ai智能体安全·anthropic白皮书·提示注入
Anthropic安全白皮书1|零信任 for AI Agents:AI时代的智能体安全,不能再靠“防火墙”了你部署了一个AI智能体,它能自动读邮件、查数据库、调用API,还能和其他智能体协作。高效,方便,省人力。
我是有底线的