来自 The Atlantic 的文章，揭示了 Sam Altman 被董事会开除背后的原因：公司内部的分裂
文章说导致 Sam 被开除的混乱，开始于 1 年前 ChatGPT 的发布 开除是 OpenAI 内部两种极端意识形态斗争的高潮 - 一个群体（Sam 那一派）诞生于硅谷的技术乐观主义，受到快速商业化的推动；另一个群体深感恐惧，认为人工智能对人类构成生存风险，必须极其谨慎地加以控制 文章作者解释，说 The Atlantic 的文章是关于 OpenAI 的书籍的一小部分。以下是翻译的原文
OpenAI的ceo变动背后的真相
过去48小时里发生的事情简直令人难以置信------开放人工智能(OpenAI)的首席执行官萨姆·阿尔特曼(Sam Altman)被突然罢免,他似乎是生成式人工智能革命的领头人物。随后有报道称公司曾就让他重返OpenAI进行谈判,但又再次传出他实际上不会回归。要真正理解这一切,必须了解OpenAI不仅仅是一个技术公司。
OpenAI的组织结构
相比其他互联网时代的里程碑公司如Meta、谷歌和微软,OpenAI的组织结构特别注重抵制技术行业的主流价值观------追求无限规模扩张以及不问后果地推出消费产品。OpenAI于2015年成立时设立为一个非营利机构,致力于创造具有普遍利益的人工通用智能(AGI)。根据OpenAI的说法,AGI应能胜任"大部分经济价值极高的工作",这正是需要负责任地监管的有力技术。
然而,这个理想主义的模式没有持续很长时间。2019年,OpenAI成立了一个"有限利润"的子公司,此举可以吸引资金和顶尖人才,不可避免地将建立商业产品。但非营利董事会仍然对整个公司保有完全控制权。这些公司内部机制的细节,对理解OpenAI如日中天的兴起以及阿尔特曼突如其来的倒台至关重要。
阿尔特曼于上周五被OpenAI董事会解雇,这归根结底是公司两极化理念的权力斗争------一方来自硅谷技术乐观主义,致力于快速商业化;另一方深受人工智能可能对人类存在的风险的恐惧,主张必须以极端谨慎的态度进行控制。多年来,这两种立场一直共存,不时出现一点小摩擦。
ChatGPT产品发布带来的影响
然而,去年今天前后不久,根据现任和前任员工透露,这种脆弱的均衡被打破了。这一切得益于使OpenAI声名鹊起的成功产品ChatGPT的发布。从外表看,ChatGPT似乎是有史以来最成功的产品推出之一。它比任何其他消费类应用更快地实现爆发式增长,单handedly改写了数百万人对自动化的威胁和机遇的理解。但同时也把OpenAI推向两个极端,进一步加大already存在的理念差异。
ChatGPT给推广商业产品增添动力的同时,也给公司基础设施和负责评估和缓解技术风险的员工带来前所未有的压力。这导致OpenAI不同理念派别之间已经紧张的关系更加恶化。阿尔特曼曾在2019年邮件中将其称为"部落"。
管理层矛盾升级
通过与The Atlantic的10次对话,我们了解到OpenAI内部变化带来的不可持续分歧。产品一端强调商业化进程的不断加速,使得安全团队等认为OpenAI无法信守创建有益AGI的使命。ChatGPT发布后,OpenAI无法再选择理想主义研究室的身份。这里有客户需要被满足。
随后OpenAI连续推出支付版ChatGPT、API工具和GPT-4,使压力继续积累。安全团队认为前期AGI安全研究工作不足。顶层管理也分崩离析------首席科学家伊利亚·苏茨凯弗支持原使命,而阿尔特曼和布洛克曼鼓励更多商业化。
阿尔特曼被解雇最终加入微软
最后,阿尔特曼于上周五被解雇。OpenAI董事会指责他在与董事交流时"不负责任",从而失去了对其担任首席执行官的信任。这个事件反映了OpenAI内部矛盾的本质,即关注AGI安全风险的派别与追求商业增长的派别之间的冲突。
OpenAI的未来尚未明朗。但这个事件显示,少数人决定着可能是我们这个时代最重要技术的发展方向。人工智能的未来取决于富豪技术乐观主义者、狂热分子和数十亿规模公司之间的意识形态斗争。OpenAI作为开放共享的理念体现出其限制,事实表明,决定将在 closed doors 下进行。
