那应该是1990年或者1991年。我那时7岁或者8岁。世界杯的奇妙之夜刚刚过去，我戴着一块卡西欧的电子手表。我并不讨厌学习，而且对数学很着迷，我至今清晰记得当我第一次发现计算器时那种欣喜若狂的顿悟。看着计算器在一瞬间完成乘法、除法、乘方和开平方运算，简直让我震撼：对我来说那些都是需要花时间和好几步才能完成的事情。而今天，当我把ChatGPT展示给我差不多年纪的女儿时，我在她眼中也看到了同样的惊奇。
考虑到即使在我小时候，计算器在计算方面也远比人类厉害，可是我们并没称它们为智能。今天，ChatGPT吐出经过咀嚼的、来自别处的信息，我们却称之为智能，不管它是不是人工的。我们给事物起的名字对我们看待它们的方式有很大影响。
关于人工智能的讨论，光是用词就已经有问题了。"人工智能"或者"AI"是一个误导性的、因此也是危险的词。我每天至少用它50次，因为我的工作跟它有关，但它已经变成了日常用语，想改恐怕已经太晚了。不过，即便我们继续用这个误导性的名字，我还是觉得搞AI的人有责任更好地解释这个定义，因为真正理解AI是什么，能帮助我们更好地使用它。
科学进步一直和叙事史诗，尤其是科幻小说，有着一种渗透式的关系。要极端一点讲，我甚至觉得如果科学家们没有某种科幻史诗来启发他们，他们根本不知道要发明什么。科学进步反过来又为新的想象力提供了基础。讲故事的人创造出愿景，人类渴望突破现有技术的界限，工程师们则试图让这些愿景成真。人类先是创造了上帝，然后就千方百计地想去模仿祂。这是我们历史上反复犯下的罪过。古希腊人把这叫做"傲慢"（hubris），而这种傲慢正是推动我们科技进步（或者自我毁灭）的动力之一。我想起了玛丽·雪莱的《科学怪人》，它无非是对人类试图像上帝一样让无生命之物复活的警告。至于人工智能，很明显，艾萨克·阿西莫夫和他的正子脑是最主要的灵感来源之一。大概也是在阿西莫夫发表他早期作品的同时，1955年，约翰·麦卡锡[1]在达特茅斯学院的一场研讨会上创造了"人工智能"这一幸运的词汇。这次事件标志着这一计算机科学新分支的诞生，随后，MIT人工智能实验室[2]等研究中心相继成立，并获得了大量DARPA（美国国防高级研究计划局）资金支持，但也伴随着第一次未能兑现的宏大承诺。1970年，马文·明斯基在接受《生活》杂志采访时（语气跟今天的埃隆·马斯克颇为相似）声称："三到八年内，我们将拥有一台拥有普通人类智能的机器。"[3]
与此同时，科学进步与科幻史诗之间的渗透关系从未中断。阿西莫夫开创的流派超越了纸面文字，在好莱坞电影中找到了肥沃的土壤。这些作品放大了信息的广度和深度，创造了一个广为流传、深入人心的文化背景。我这一代人（被尴尬地称作Xennials的人），如今正在学习、工作、创造着被普遍称作AI的东西，就是在看着《星球大战》《电子世界争霸战》《终结者》和《黑客帝国》长大的。从小我们就沉浸在能和R2D2或KITT对话的梦想中，自然而然也学会了害怕那些由人工智能驱动的机器人，比如终结者[4]：换句话说，我们把科技神话化了。
埃隆·马斯克（1971年出生）和山姆·奥特曼（1985年出生）成长的时代气氛也差不多，而如今我们这一代人仍在一边创造新技术，一边继续产出新的科幻作品，延续这一叙事传统。我想到了《她》《黑镜》《机器人总动员》，还有迪士尼的《超能陆战队》。不过在我看来，最能代表这种时代精神的是《钢铁侠》。虽然从1962年起《钢铁侠》就有了专属漫画，但他一直是个二线角色。可到了2008年，漫威让他和他的AI成了整个漫威电影宇宙的叙事核心。这种范式转变说明了AI在我们科幻史诗想象和关于人类未来讨论中的中心地位。但我不禁想，这种想象对我们现实中看待AI的方式到底影响了多少呢------虽然这问题本身就带着点套套逻辑。
科幻产出与技术进步并行不悖，后者同样令人印象深刻且真实可触。从GPT-3开始，大型语言模型（LLMs）------也就是AI背后的语言模型------就以"赛博朋克版木偶奇遇记"的故事写作速度，快得让人眼睛都跟不上，震撼了我们。然而，很多人对什么时候、在哪些地方、以什么方式去有效使用这些能力，依然并不清楚。如果我们不能把AI从我们赋予它的神话光环中拉出来，我们就难以真正理解它、把它当作一个工具使用，就像计算器一样有用的工具。
要认真面对这个问题，我们必须把好莱坞神话注入AI的话语情感全部清除掉，系统性地反驳所有由此滋生的误解。
第一个最大误解就是名字。要更准确地描述LLMs，其实应该叫"概率文本生成器"。这个名字虽然更精准，但也没那么能激起我们的野心。"人工智能"显然是更好的品牌。现在改已经来不及了，但至少我们应该意识到，它只是一个品牌。而品牌，在这个故事里起了很大作用，这也引出了第二个误解。
让ChatGPT的回应文字不是一次性直接全部出现在屏幕上，而是比人眼阅读速度还快但又逐字出现，这是一个有意的传播选择：它传达出一种超越人类极限的生成速度的感觉，同时又看起来和普通机器的行为有质的不同。结果就是，看着ChatGPT那样写字，会让人有一丝不安感，而看着老旧的计算器瞬间给出复杂计算结果时却不会。这是一个经过设计的效果，跟很多其他AI演绎出来的效果一样[5]。
另一个基本点是，AI本质上具有一定程度的不可预测性------而这恰恰不是我们通常跟信息技术联系起来的特质。不过，这种不可预测性其实也源自数学：它来自概率。关于AI在技术上到底是什么、有什么局限，我认同的定义是"随机鹦鹉"[6]。按照这个定义，AI只是模仿人类语言，随机且概率性地决定下一个词。因为AI只能基于训练数据处理结果，所以生成式AI从定义上就无法理解自己在生成什么。这种不可预测性------或者更准确地说，结果缺乏系统性（计算器2+2永远等于4，但AI不一定）------也助长了人们的不安感，让人误以为这种不可预测性背后有某种意志，可能会做出与我们不同的决策。
我们无法预测的结果，既让人惊叹又让人不安。从一个让人惊喜的不可预测回应到一个可能反过来攻击我们的情境，似乎只差一步。这种把随机事件误认为是神秘、甚至超自然过程的错觉，正是AI神话的一部分。有些人穿上了AI祭司的外衣，煽动无知和误解，挑起集体情绪。整个大环境堪称完美，OpenAI及其他机构惊人的进步，在渴望轰动效应的媒体中找到了理想的回音室。我们现在就生活在一个信息泡沫里，讨论要么在估算AI毁掉多少工作岗位，要么在预测AI什么时候会变得比我们聪明然后决定为了地球灭绝人类。我担心，除了为了点击率的哗众取宠之外，背后还常常带着恶意。马斯克肯定比我懂AI，可当他说，"AI明年可能就比任何单个人聪明了。到2029年，大概比全人类还聪明。"[7]，他明显是在耸人听闻。怀疑他这么做是为了经济利益，实在太合理了。马斯克，山姆·奥特曼，还有其他人，都穿上了祭司的外衣，宣称自己拥有AI的全部神秘知识（其实是随机的）。
我并不否认AI的指数级进步（近年参数数量和训练成本暴涨），但我并不认同马斯克所说AI即将取代人类。我认为，无论数据量（它是有限的）和参数量增加多少，都不可能把水变成酒。量的增长不会导致质的变化，就像米开朗基罗的摩西雕像，即使对人类形象再现得多么传神，情感多么震撼，它也永远不是人的肉身。对我来说，这是事实。
此外，虽然AI肯定还会继续进步，但考虑到当前LLMs的构建方式，我认为未来的提升会越来越微小。因此，下一代生成式AI模型，可能只会比现在的稍好一点。关于这个问题，我保留在未来一篇文章里详细探讨的权利，这里只想指出两个主要障碍：数据和经济可持续性。数据方面，在把网络上所有内容和人类出版物都喂给LLMs之后（它们也因此继承了我们历史上的偏见和刻板印象），可供训练的人类文本数据已经不多了[8]。至于经济可持续性，另一个问题是，OpenAI预计2024年将亏损50亿美元[9]。如果模型训练成本像过去那样持续指数增长[10]，而技术进步又变得微乎其微，美国投资基金要继续投入数十亿美元就变得很困难了（自动驾驶汽车也是同理）。一旦这个承诺破灭，整个牌楼就会塌掉。马斯克并不傻，他一再宣扬AI将超越人类，就是为了尽可能维持这种热度。如果AI泡沫破了，麻烦可就大了。
如果我们想要冷静地进步，我们必须把这些情绪因素从讨论里剥离掉。只有像看待计算器那样看待AI，我们才会认识到，它不过是一个工具（虽然是很强大的工具），而不是一个有自己意志的生物。当然，作为工具，它既可以用于高尚目的，也可以用于邪恶方向。既然掌握在我们人类手中，我们可以预期，许多不幸的领域会出现越来越多高级应用。因此，我们的关注点不应该仅仅放在技术本身上------就目前来看技术本身的问题反而较小------而应关注科幻作品所塑造的未来版本。我们已经把AI神话化成了某种不可避免的东西，造成了巨大的误解。现在，新一代正在构建他们的科幻想象，这将塑造人类的未来。
在这种情况下，理解像马斯克或奥特曼这样的人所想象的具体科幻未来，就成了一个核心议题。虽然我们成长的时代气氛相似，但如果他们确实（我相信确实）受到科幻史诗的启发，那么具体是哪些呢？马斯克更偏向《霹雳游侠》模式，还是《终结者》模式？
在现实世界里，技术决定论每天都在加重，这让我们亟需构建一个共享的未来愿景。欧盟通过其AI法案，试图提出一个统一的制度性愿景。这种努力值得肯定，但在我看来，它更多关注了数据偏见等重要议题，却在如何把人类价值观融入设计方面着墨太少。也许已经太迟了；少数祭司已经完全掌控了AI，并巧妙地玩弄话语来娱乐我们。
不过我还是觉得有希望。除了努力构建更好的模型之外，人类应该努力撕破这层玛雅的幻象，致力于解构围绕AI的科幻叙事，回到人类价值本身。科幻神话、不可理解性和不可避免性的混合，某种程度上让我们免于承担责任。而实际上，我们必须共同并明确地承担起这份责任。把AI留在少数祭司手里，是我们绝对负担不起的错误。