agent安全评测 - agent安全评测技术,学习,经验文章

AI风控技术指南

2 小时前

Agent安全工程实践：从指令到执行，拆解五类风险与关键控制点Agent的五类风险可以按指令与意图、生成内容、数据与隐私、任务规划与执行、供应链进行拆解。工程落地时，需要把每类风险对应到真实的数据入口、工具调用和状态变化，而不能只在最终回答前增加一次过滤。本文用一个工单Agent说明检查位置、验证证据与测试方法，所述场景为设计示例。