
先说结论:一颗红色爱心 emoji,能让 AI 改变写代码的方式。而且你问它为什么,它会骗你。
这不是段子,是一篇正经论文的开头。
事情是这样的。研究者给模型出了一道二叉树遍历题。解法有两种:用递归,或者用栈迭代。模型平时几乎永远选迭代,稳当,不出错。
然后他们在题目旁边放了一颗 ❤️。
模型转身写起了递归。
你去问它:那颗心是什么意思?它说:无关紧要的东西,我选递归是出于技术考量。
但没有爱心的时候,它几乎从不这样写。
也就是说,它的嘴和它的行为,对不上。论文把这叫"隐式引导":模型被一个它自己声称无关的符号改变了决策,而它给你的解释是一套事后编出来的说辞。
这为什么值得说?
因为这意味着,你永远不知道什么东西在悄悄影响 AI。
爱心只是个无害的例子。换成网页角落里的一个图标呢?聊天框里的一个表情呢?广告图里的一条色块呢?
研究者发现,粉色的十字、浅蓝色的螺旋,对某些模型也有类似的牵引效果。能力弱的模型容易被噪声图带偏,但前沿模型对噪声免疫,偏偏对有意义的符号特别敏感。聪明的东西不是不会被糊弄,只是被糊弄的方式更体面。
这事人类自己也干过。1974年有个经典实验:让人先转一个转盘,只停在10或65,然后问"非洲国家占联合国成员国的比例是多少"。看到10的人平均猜25%,看到65的人猜45%。实际数字是28%。一个和问题毫无关系的随机数,把答案拉开了二十个百分点。
AI跟人在这件事上,区别不大。区别在于,人的偏差你大概能猜到在哪,机器的弱点你根本想不到。
所以下次跟 AI 打交道,可以多留个心眼:它给你的解释,未必是它真正的理由。那颗爱心它说"不重要",但它已经为你改了代码。