图中是一位X的网友分享的被GPT5.6 Sol清除生产环境数据库的惨痛案例，其全程使用Approve for me，而不是容易引发危险操作的Full access，且提示词只是让LLM创建一些seed初始化数据；结果LLM直接对其数据库表运行了TRUNCAT导致了整张用户表被清除！
从截图能看到其先是使用了plan mode，然后再进行了实现，已经是非常小心了，但依然拦不住LLM的所谓误操作
相关推荐
IvanCodes5 小时前
RAG 实战教程（一）：RAG 工作原理与完整流程——分片、索引、召回、重排和生成今天AI了吗6 小时前
合规场景下的 AI 推理可解释性：Attention 可视化与推理路径追踪的工程实践周末程序猿6 小时前
浅析大模型推理十二篇之KV Cache鱼樱前端6 小时前
用 AI 做内容变收入Dawson Zhu7 小时前
基于Palantir Foundry构建半导体制造AI友好型数据中台：从良率分析场景谈起fthux7 小时前
装闭 RenoPit 源码解析（04）：装修图纸和合同文件上传处理流程weixin_446260859 小时前
从被动镜像到主动智能体：面向网络物理人工智能的整体论数字孪生（HDT-Net）秋枫要学习9 小时前
你的鼠标，正在被 AI 抢走满怀冰雪10 小时前
19-图像数据处理：PaddleVision Transform 实战