技术栈
“控制评价过程”泛化跨领域策略
张彦峰ZYF
3 小时前
人工智能
·
ai agent
·
anthropic
·
智能体安全
·
reward seeker
·
“控制评价过程”泛化跨领域策略
·
envbom
越过边界之前：Reward Seeker 实验如何改写智能体安全的时间逻辑
目录一、三种“越界”不是同一种故障（一）春季预警：训练环境已经发出信号1、二月回滚：高分不等于能力提升
我是有底线的