图中是一位X的网友分享的被GPT5.6 Sol清除生产环境数据库的惨痛案例，其全程使用Approve for me，而不是容易引发危险操作的Full access，且提示词只是让LLM创建一些seed初始化数据；结果LLM直接对其数据库表运行了TRUNCAT导致了整张用户表被清除！
从截图能看到其先是使用了plan mode，然后再进行了实现，已经是非常小心了，但依然拦不住LLM的所谓误操作
相关推荐
Liaiyang662 分钟前
空圈容错视角下的无人机全链路审计：从理论框架到耦合式检验liuchangng2 分钟前
Jev 模型研究：从生成式大模型到决策式模型——System One、RLCD 校准与采用边界GPU实战笔记3 分钟前
本地跑不动 llama.cpp，临时租云 GPU 怎么搭？从启动服务到环境复用Seoyoneh7 分钟前
智能客服意图识别实战：深度学习与规则引擎融合架构与落地实践珠海西格电力8 分钟前
零碳园区管理系统“智慧大脑”功能对园区运营成本的影响有哪些？江畔柳前堤15 分钟前
字节跳动·大模型应用知识手册程序员z724 分钟前
RAG 系统评测实战：从指标设计到落地闭环CCC：CarCrazeCurator26 分钟前
从算子到智能系统：理解 MLP、CNN、Transformer、JEPA、VLA 与世界模型程序员z733 分钟前
Agent 评测体系怎么搭：从指标设计到工程闭环NeoGressAI外贸数字化34 分钟前
外贸独立站多语言缓存命中率低？5 个成因与排查脚本