redteaming

AI大佬的小弟3 小时前
ai安全·ai入门·越狱攻击·红队测试·提示注入·大模型基础概念·redteaming
大模型名词精讲17：红队测试（Red Teaming）不管对齐做得多好，总有人想方设法绕过安全限制，让AI做不该做的事。就像再坚固的锁，也挡不住专业的开锁匠。
我是有底线的