图中是一位X的网友分享的被GPT5.6 Sol清除生产环境数据库的惨痛案例，其全程使用Approve for me，而不是容易引发危险操作的Full access，且提示词只是让LLM创建一些seed初始化数据；结果LLM直接对其数据库表运行了TRUNCAT导致了整张用户表被清除！
从截图能看到其先是使用了plan mode，然后再进行了实现，已经是非常小心了，但依然拦不住LLM的所谓误操作
相关推荐
甲维斯8 分钟前
我用AI做了一款「三国吃鸡」，开局孔明灯，落地青龙刀 ！WeiXin_DZbishe15 分钟前
基于Springboot+AI的kuall音乐广场的设计与实现-计算机毕设 附源码【课程设计】12715boluoji18 分钟前
TOP 10 大模型实测：发两个字母，被计了 4223 个 token冬奇Lab30 分钟前
LLM 驱动的自动化测试系列（10）：自愈定位——当启发式打分撞上语义理解的天花板adrninistrat0r33 分钟前
浏览器自动化——AI 生成网页操作脚本冬奇Lab38 分钟前
一天一个开源项目（第234篇）：CC Switch —— 一个 App 管理十款 AI 编程工具的 Provider、MCP、Skills 和 PromptsAI创界者42 分钟前
结构型模式的现代化演进：深入 Python 高级特性的装饰器与代理模式QYR_111 小时前
机械制造用固体润滑涂层市场分析：2032年全球市场规模预计达8.78亿元，CAGR为6.2%SunShaoLu1 小时前
数据库建模工具选型实录：7 款 ER 图工具的工程边界与落地流程AI棒棒牛2 小时前
YOLO26 改进：融合 DCS 的 R_PAMMD 到 ROI/Neck 特征，构建对象级原型分布对齐检测器！