真正推动人类进步的从来不是崇高理想,而是资本,所以你可以理解为资本有很多种:金钱、权力、人脉。当然,还有讲故事和两面三刀。
一、被放逐的CEO
在马斯克大闹OpenAI时,山姆还正沉浸在将YC的商业版图进一步扩大之上,而面对权力交接,对他来讲显得有些猝不及防。以至于在权力更迭的这段时间,山姆开始了两线作战。不过这招来了YC内部一些人的不满。他们认为 他太过分散精力、急于扩张,而且在做出公司重大决策过程中,往往优先考虑自己的利益而不是 YC 的利益。这在他的团队中树立了一些敌人。而他的导师保罗・格雷厄姆甚至从英国飞来,亲自要求他辞去 YC 的职务。格雷厄姆对他的前门徒失去了信心,但他也不想制造公开的戏剧性场面。最终,山姆被悄悄地引导离开了 YC,并开始专心经营OpenAI。
当山姆开始专注于经营OpenAI的业务时,他发现这个公司正处在内外交困中(连给员工发工资都很困难),而且为了训练他们的模型,公司需要大量昂贵的GPU来进一步补充算力,否则公司将在这一领域失去领先地位。在依次了解完这些后,此时的山姆逐渐意识到了问题的严重性。于是他做了一个决定------融资。
不过,融资就意味着OpenAI在将来不仅要努力实现自己最初定下的造福全人类的目标,还要努力给金主爸爸打工赚钱,这确实招来了内部一些人的反对。以至于一些从OpenAI离职的人回忆起那段时光都称"自己每天在理想与现实中挣扎"。
但对于此事,山姆却有作为CEO的看法。在一档播客采访中,他解释道:"我们最初是一个非营利组织。我们很早就意识到,我们需要比作为非营利组织能筹集到的更多资金来完成我们的使命。作为一个非营利组织,我们已经尝试并多次失败地筹集资金。我们看不到前进的道路。所以我们需要资本主义的一些好处,但不要太多。"
看起来这是一种又当又立的说辞,但紧接着,山姆便将他的想法付诸于了行动。
二、"我想要好处,但别给太多"
为了不受到投资方的掣肘,山姆做了一个大胆的尝试------他搭建了一家有盈利上限的有限合伙企业(OpenAI LP) OpenAI Nonprofit,为了保留 OpenAI 的控制权,在这家有限合伙企业当中,OpenAI Nonprofit 作为 GP(General Partner),其董事会负责整个有限合伙企业的管理和运营。LP(Limited Partner)包括投资人和员工,其回报都有设定上限,其中第一轮投资人可以获得上限为初始投资本金 100 倍的投资回报,之后进入的投资人回报上限会降低。
这样一来,OpenAI便成为了这个机构的最终控制者,并且可以向未来的金主爸爸许诺:如果 ChatGPT 研发成功,除了可以接入他们的新技术外,还可以收回本金,并得到封顶收益的回报。而当本金收回后,股权也将进一步回到 OpenAI 手中,拿到封顶收益后,所有股权将全部退还给 OpenAI,仍然保持了它的独立性。
在做完这一系列的调整后,山姆便马不停蹄地飞往西雅图,会见了微软 CEO 萨蒂亚·纳德拉(Satya Nadella),亲自为纳德拉演示了 OpenAI 的 AI 模型。彼时微软正需要一个可以对抗谷歌的 AI 技术,双方一拍即合。2019 年 7 月宣布向这家人工智能初创公司最初投资 10 亿美元。这也标志着 OpenAI 正式走向商业化道路。
随着ChatGPT在22年年底向公众开放之后获得超越预期的市场热度和商业潜质,2023 年 1 月底,微软宣布扩大与 OpenAI 的合作伙伴关系,其中包括高达 100 亿美元的新资本。至此微软一共注资 130 亿美元,作为最大的 LP 持股达到 49%。而微软的投资回报上限为 920 亿美元(不含本金)。
不过,作为一贯的理想主义者,马斯克在这个过程中不断发推批评山姆的作法:"OpenAI 是作为一个开源的非营利组织成立的,作为对谷歌的制衡,但现在它已经成为一个封闭的、利润最高的公司,实际上由微软控制。这完全不是我的初衷"。
有意思的是,当山姆在一次采访中被问及上述的批评时, 他停顿了一下,并说:"我喜欢伊隆,我关注他说的话"。
三、安全分歧
这段快速进展,对于山姆来说无疑是件好事,对于公司来说也是如此。然而,它却让一些 OpenAI 的员工感到紧张,甚至包括一些高层。在这些高层里就有达里奥・阿莫迪(Dario Amodei),他当时担任着 OpenAI 的研究副总裁。
"你知道,我在 2018 年或 2019 年左右真的为这些事情感到恐慌。第一次看到 GPT-2 时,我想,哦,天哪,这太疯狂了。你知道,世界上没有什么能与之相比。像这样的事情能够实现真是太疯狂了。"
"为什么我害怕?哦,是的,这东西将会非常强大。它可能会毁灭我们,就像到目前为止建造的所有东西一样,你知道,有相当大的风险会做一些我们不理解的随机事情。如果这样一个模型想要重新崛起并摧毁人类或其他什么,我认为我们基本上没有能力阻止它。我们需要以某种方式使这些模型安全。你知道,我们需要在一个组织内做这些,在那里我们真的可以相信这些原则从上到下都被贯彻。"
如果你仔细聆听达里奥・阿马迪在洛根・巴特利特播客上的讲话,你会发现他言语中流露着一丝不安。虽然他的语气听起来无害,但仔细解读,你会发现他暗示 OpenAI 并没有真正重视安全问题,也没有贯彻这些原则。这种不安情绪逐渐蔓延到他周围的同事身上。
2021 年,达里奥和他的 6 位 OpenAI 同事一起离职,创立了一家名为 Anthropic 的新公司,Anthropic 这个名字源自希腊语 "anthropos",意思是 "人类"。达里奥选择这个名字是为了强调他们对人类价值观和安全性的关注。他们希望确保 AI 的发展能够真正造福人类,而不是带来毁灭。
不管高层的分歧如何,Anthropic 从 OpenAI 的分离的确是一件大事。这无疑给 OpenAI 蒙上了一层可疑的阴影。这些人直接用行动表明了他们不信任山姆・奥特曼会做正确的事,而不是嘴上说说,博取噱头。同时也暗示着 OpenAI 内部对于 AI 安全问题的分歧远比表面上看起来更加严重。
四、焦虑蔓延
时间快进到 2022 年底,OpenAI 推出了 ChatGPT。起初,这款人工智能产品只在技术圈子里小范围流行,但很快,这些圈子里的极客们就被它展现出的 "神奇魔法" 所震惊。媒体的热烈报道更是将它推向了大众视野。ChatGPT 在短短两个月内就突破了 1 亿用户,创下了史上增长速度最快的记录。作为对比,TikTok 花了 9 个月,Instagram 花了两年半才达到同样的普及度。
其实,OpenAI 并没有预料到 ChatGPT 会引起如此巨大的反响。甚至正式发布的 1.0 版本,也仅仅是几个人花了几周时间赶工搭建起来的。但说到底,如果没有 OpenAI 早期对于 GPT 系列模型的研究,也就不会有今天这个影响如此深远的 "草台班子" 诞生。而 ChatGPT 发布的第一个版本本质上是由预先存在的模型 GPT-3.5 驱动的,但它巧妙地将这项技术以一种全新的方式呈现在世人面前,并迅速引发了轰动。
ChatGPT 的发布让 OpenAI 迅速声名鹊起,成为了家喻户晓的 AI 公司,而山姆也借助这款产品成为了 AI 领域的领军人物。他成为了家喻户晓的名字,整个科技行业都对 AI 投资充满了热情。公司纷纷将重点转向 AI,高速公路上的广告牌上也开始宣传新的 AI 创业公司。
不过,ChatGPT 的狂热也带来了另一层影响。除了让更多人对前沿 AI 感兴趣并意识到它的存在之外,ChatGPT 的发布也激化了一小部分长期以来对 AI 发展抱有担忧的人。英国的一项调查显示,在 ChatGPT 发布后的一年内,认为 AI 是人类灭绝的主要可能原因的人的比例增加了一倍多。他们的核心观点是:AI 将变得越来越强大,最终会失控并威胁人类,而我们必须想办法拯救人类。
这种对 AI 毁灭世界的恐惧,正是达里奥・阿莫迪在离开 OpenAI 创立 Anthropic 之前所描述的恐惧。这可能听起来有点荒谬,但对许多人来说,这是非常严肃的。这个相信 AI 可能很快就会毁灭我们的硅谷亚文化,一直在稳步变得更有影响力和更强大。这些想法现在是 AI 领域的主要驱动力。许多 AI 领域的科技工作者觉得他们正在从事对人类最重要的事情,关系到整个星球的生死存亡。为了实现这一目标,他们投入了大量资金,组建了 AI 安全组织,并积极地向外界宣传 AI 的潜在威胁。他们试图说服更多人加入他们的行列,共同抵御 AI 的威胁。
然而,并非所有人都认同这种观点。一些学者和研究人员认为,这种 AI 末日狂热是一种危险的分心。他们认为,AI 领域应该更加关注现实问题,例如 AI 系统中的偏见、数据盗窃以及其他伦理问题。
"这是一种分心,因为现在正在发生各种各样的伤害,包括劳动剥削、数据盗窃、歧视性结果、代表性伤害。" 艾米莉・本德,一位专门研究计算语言学的学者说道: "我们越是关注这些非常令人兴奋的,就像动作电影那样令人兴奋的幻想场景的存在风险,就越少时间和精力用于实际处理现在正在发生的真实伤害"。
五、阴暗之面
那么,作为ChatGPT的"父亲",山姆是否相信AI可能会毁灭人类?老实说,很难讲。多年来,他的回答一直在变化。
早在 2015 年,山姆就明确表示,他认为先进的 AI 是 "可能是人类持续存在的最大威胁"。他甚至曾用一种有趣的语气说道:"我认为 AI 可能会,最有可能会导致世界末日"。
在那个时期,山姆还表现出末日准备者的倾向。他告诉记者,他在大苏尔有一片土地,并储备了枪支、黄金、氨、抗生素和以色列国防军的防毒面具,以备不时之需。然而,这片土地后来被证实并不稳定,容易发生岩石滑坡,似乎并非理想的末日避难所。当另一位记者问他后续问题时,山姆试图一笑置之。他说他这样做是为了好玩,因为它"吸引小男孩的生存幻想"。
不过,随着 OpenAI 的发展壮大,山姆逐渐不再谈论末日预言。他开始强调 AI 将如何深刻地改变社会,并将其描绘成一种积极的力量。自 ChatGPT 让他声名大噪以来,他将自己和 OpenAI 塑造成更加中庸的立场。
山姆当然可以改变他的观点。但拦不住人们在私下的议论。你或许可以从一些小道消息或者某人的私人推上发现一些有意思的内容,就如下面这段。
山姆有一种倾向,就是说话两面三刀。他善于在当时告诉人们他们想听的话。所以如果对他有利,表现得更温和一些,那么他开始听起来更温和也就不足为奇了。无论如何,他肯定知道一个爆炸性的末日故事有多么强大。我们更容易被戏剧性的恐惧触发,而不是无聊的恐惧。山姆自己也这么说。你可以从他的话里听到山姆那种固有的、傲慢的潜台词:他意识到了一些理性的东西,而其他人却看不到。
当把他的言论做成合订本之后,你不难看出,山姆确实是一位处事圆滑的领导者。他能够根据不同的环境和目标,调整自己的言论和行为。但其实也不难理解这种"不择手段"的做法,因为真正推动人类进步的从来不是崇高理想,而是资本,所以你可以理解为资本有很多种:金钱、权力、人脉。当然,还有讲故事和两面三刀。
我是蓝衣剑客,谢谢你看我的文章。
资料来源:
- Greg Brockman blog ( blog.gregbrockman.com/)
- www.britannica.com/money/OpenA...
- 人物-Sam Altman(blog.naaln.com/2023/06/sam...)