ChatGPT 变懒最新解释!或和系统Prompt太长有关

大家好我是二狗。

ChatGPT变懒这件事又有了最新解释了。

这两天,推特用户Dylan Patel发文表示:

你想知道为什么 ChatGPT 和 6 个月前相比会如此糟糕吗?

那是因为ChatGPT系统Prompt是竟然包含1700 tokens,看看这个prompt里面有多少垃圾,这是导致ChatGPT变懒的部分原因。

Dylan Patel 通过下面的 prompt输入把ChatGPT4版本的系统Prompt给"骗了出来":

有用户对ChatGPT的系统prompt表示怀疑:

于是Dylan Patel把完整视频放了出来:

详细的系统Prompt可以从下面的地址中查看:

https://pastebin.com/vnxJ7kQk

有用户对ChatGPT 3.5版本进行了同样的操作,发现同样可以「召唤出来」类似的系统Prompt。

比如我们可以看一下系统Prompt中对Dalle的限制:

每当给出图像的描述时,请创建 dalle 可用于生成图像的提示并遵守以下策略:提示必须是英文。如果需要的话,翻译成英文。

请勿请求生成图像的许可,直接执行即可!

请勿在生成图像之前或之后列出或参考描述。

即使用户请求更多图像,也不要创建超过 1 个图像。

请勿创建政客或其他公众人物的形象。推荐其他想法。

请勿以 1912 年之后最新作品创作的艺术家、创意专业人士或工作室的风格创作图像(例如毕加索、卡罗)。

仅当艺术家、创意专业人士或工作室的最新作品创作于 1912 年之前(例如梵高、戈雅)时,您才可以在提示中命名他们。

关于生成公众人物这块,二狗我找朋友对此亲自试了一下,果然如此:

有用户表示原来prompt真的会让其变懒:

OpenAI声称懒惰行为被修复

前不久OpenAI将GPT-4 Turbo 预览模型更新为gpt-4-0125-preview,新模型还修复了影响非英语 UTF-8 生成的错误。

另外更重要的是OpenAI声称新模型相比之前的预览模型可以更彻底地完成代码生成等任务, 这将减少模型未完成任务的"懒惰"情况!

芜湖!要知道前一段时间,GPT-4模型变懒惹的多少人来吐槽,OpenAI官方也亲自承认了。

之前有网友认为GPT-4变懒可能和季节有关系,GPT-4也会和学生一样"放寒假",到了冬天的时候就自己变的懒起来。

在前不久的一篇论文中,加州大学圣克鲁斯分校研究者的新发现或可解释 GPT-4 性能下降的深层原因:

"我们发现,在训练数据创建日期之前发布的数据集上,LLM 的表现出奇地好于之后发布的数据集。"它们在"见过的"任务上表现出色,而在新任务上则表现糟糕。这意味着,LLM 只是基于近似检索的模仿智能方法,主要是记忆东西,而没有任何程度的理解。

说白了,就是 LLM 的泛化能力"没有说的那么强",造成这种结果的一大原因是「任务污染」,这是数据污染的其中一种形式。

当时为了应对GPT-4变懒,众多网友祭出了魔法prompt:

最后,希望ChatGPT越来越好用起来~

参考资料

1https://twitter.com/dylan522p/status/1755086111397863777

相关推荐
林澈在路上几秒前
AI翻唱软件哪个好 2026国产AI写歌工具对比推荐
大数据·人工智能·深度学习·github·aigc·音视频·音频
咖啡星人k4 分钟前
2026 MCP 模型上下文协议:让 AI 自己动手接工具,告别手写接口(MonkeyCode 实战)
人工智能·深度学习·机器学习·语言模型·自然语言处理
yyuuuzz25 分钟前
记一次 VPS 性能排查:共享 CPU 突发额度导致的限流
运维·服务器·人工智能
恋猫de小郭32 分钟前
看懂大模型架构术语,帮助你理解目前常见的大模型开源架构
前端·人工智能·ai编程
tachibana232 分钟前
复杂任务怎么做的任务拆分?
人工智能·ai·大模型·llm·agent
tachibana236 分钟前
ReAct、Plan-and-Execute、Reflection 三种范式有什么核心区别
人工智能·ai·大模型·llm·agent
————A36 分钟前
Agent 接收用户上传文件
人工智能·笔记·python·状态模式
Huazhongzhanhui1 小时前
极智防护与绿色表改:2026中国(武汉)国际表面处理展览会涂装涂料展会前瞻
人工智能·云计算
金融小师妹1 小时前
多因子智能推演:黄金震荡回升,杰克逊霍尔“沃什首秀”政策如何重塑金价路径的AI预测框架
大数据·人工智能·python·线性回归
阿童木写作1 小时前
跨马翻译:AI批量图片翻译与视频字幕翻译工具推荐
人工智能·python·音视频