图中是一位X的网友分享的被GPT5.6 Sol清除生产环境数据库的惨痛案例，其全程使用Approve for me，而不是容易引发危险操作的Full access，且提示词只是让LLM创建一些seed初始化数据；结果LLM直接对其数据库表运行了TRUNCAT导致了整张用户表被清除！
从截图能看到其先是使用了plan mode，然后再进行了实现，已经是非常小心了，但依然拦不住LLM的所谓误操作
相关推荐
汤姆宝库2 小时前
世界模型深拆：视频生成、潜在模拟与物理直觉weixin_468466855 小时前
从“看懂”到“做到”：视觉-语言-动作模型如何让机器人真正执行指令朋友圈自动点赞工具5 小时前
科学AI插件化：从蛋白质结构到古籍修复龙粤GEO6 小时前
实体Entity在GEO中代表什么含义剑雨巍巍7 小时前
AI Agent面试之基础概念微帧Visionular7 小时前
AI视频单帧清晰，播放时却闪烁，原因是什么？武子康7 小时前
MultiNet6 空闲崩溃：`EXCVADDR=0x8` 后又出现 `CORRUPT HEAP`云智慧AIOps社区7 小时前
智能巡检机器人应用场景解析：机房巡检、园区安防、管廊巡视与展厅导览EnCi Zheng7 小时前
Agent 如何进行工具调用：从一次 Function Calling 到生产级工具编排的完整链路赛博守夜人7 小时前
AI安全攻防与治理之十四：AI 安全测试不能脱离传统安全，Web、API、移动端与模型攻击面的组合拳