OpenAI解雇两名Ilya团队成员,与「宫斗」泄密有关?

半年来内斗剧情跌宕起伏的企业 OpenAI,再次传来人员变动的消息。

The Information 报道,据知情人士透露,OpenAI 已经解雇了两名涉嫌泄露信息的员工。

一位是 Leopold Aschenbrenner,是 OpenAI 超级对齐团队的研究员。

他是 OpenAI 首席科学家 Ilya Sutskever 的盟友,去年秋天,Ilya 参与了逼走 OpenAI CEO Sam Altman 的行动,但以失败告终。

另一名被解雇的员工 Pavel Izmailov 在 OpenAI 从事推理相关的研究,也曾在超级对齐团队工作过一段时间。

二人曾在团队的多项工作中合作,包括这篇被广泛关注的《Weak-to-Strong Generalization》arxiv.org/abs/2312.09...

目前尚不清楚的是,这两名被解雇的员工到底泄露了哪些信息。

两人的离职,是 Sam Altman 今年 3 月重新担任董事会成员以来首次公开的人事变动。在此之前,OpenAI 的非营利性董事会领导了一项调查,为 Altman 在去年 11 月被短暂解雇前的行为开脱罪责。

回顾「宫斗」事件的细节,我们或许可以发现一些端倪。在下台之前,OpenAI 的员工在公司是否足够安全地开发人工智能的问题上存在分歧。

联合创始人 Ilya Sutskever 是解雇 Altman 的董事会成员之一,董事会称 Altman 缺乏坦诚。在 Altman 重新担任 CEO 后,Sutskever 离开了董事会。自那场风波后,他基本上就没有再出现在 OpenAI 的舞台上。

但宫斗事件后,Sam Altman 也没有回避过对 Ilya 的赞美,表示自己非常尊重并欣赏 Ilya,希望未来的工作生涯都能和他合作:「Ilya 并没有看到通用人工智能,但 Ilya 是人类的功臣。关于安全问题 Ilya 想了很多,也担心了很多。」

「有人说 Ilya 看到了一些东西,可能是 AGI,这让他内心不安。所以,Ilya 看到了什么?」

Sam Altman:「Ilya 看到的不是 AGI,没有人见到过 AGI,我们还没有建造过 AGI。我确实认为我欣赏 Ilya 的众多原因之一是他非常认真地对待 AGI 和安全问题,从广义上讲,这包括 AGI 将对社会产生的影响。随着 OpenAI 不断取得重大进展,Ilya 是陪伴我时间最久的人之一。在过去的几年里,他总谈起这意味着什么、我们需要做什么来确保我们做的是对的,确保我们成功完成使命。所以 Ilya 并没有看到通用人工智能,但 Ilya 是人类的功臣,他想了很多,也担心了很多。」

在公司内部,Aschenbrenner 也是 OpenAI 超级对齐团队的负责人之一。该团队由 Ilya Sutskever 去年夏天组建,目的是开发控制和引导高级人工智能(即超级智能)的技术,这些高级人工智能可能会解决核聚变问题或殖民其他星球。

Aschenbrenner 19 岁时毕业于哥伦比亚大学,此前曾在未来基金(Future Fund)工作,这是 FTX 前 CEO Sam Bankman-Fried 创办的慈善基金,旨在资助「改善人类长期前景」的项目。

显然,Aschenbrenner 更倾向于「有效利他主义」(effective altruism)的立场,将解决人工智能的危险性置于短期利润或生产力利益之上。就在一年前,Aschenbrenner 加入了 OpenAI。

当初解雇 Altman 的几位董事会成员也与有效利他主义有关。例如,Tasha McCauley 是 FTX 资助的慈善机构、有效利他主义中心的母公司 Effective Ventures 的董事会成员,Helen Toner 曾在以有效利他主义为重点的慈善项目工作过。而这两个人,都在 Altman 11 月底重新担任 CEO 的时候离开了董事会。

至于 Pavel Izmailov,此前就已经在个人主页披露了未来计划:2025 年秋季加入纽约大学任助理教授。

对于这则消息,当事双方和 Ilya 都没有正式回复。可能大家最关心的是, Ilya 会不会随后离开 OpenAI?只能说很难预测。

参考链接:www.theinformation.com/articles/op...

相关推荐
saku24 天前
重要的AIGC开源热点都在这里了 AIGC Weekly #1
开源·github·资讯
三花AI1 个月前
好家伙,OpenAI 第一的位置屁股还没坐热呢,谷歌 Gemini 就重夺竞技场榜首了
资讯
蚝油菜花1 个月前
今日 AI 简报|百度推出检索增强的文生图技术、开源表格处理大模型、蛋白质结构预测、3D 生成、短视频生成、PDF 翻译工具
人工智能·开源·资讯
蚝油菜花2 个月前
王炸!Anthropic 推出全新模型 Claude 3.5 Haiku,首发支持计算机使用功能!
人工智能·llm·资讯
三花AI2 个月前
Playground V3:图形设计模型的文字处理新标杆
开源·资讯
万界星空科技3 个月前
万界星空科技MES系统与各大系统的集成
产品·运营·资讯
战场小包5 个月前
OpenAI动荡,将走向何方、GPT5或许将近、毒舌AI轻松破防网友、最新版 GPT-4o AI 模型得满分 | AGI掘金视界周刊第 4 期
人工智能·资讯
字节跳动开源5 个月前
字节跳动开源多云多集群管理引擎 KubeAdmiral v1.0.0 发布!
开源·github·资讯
战场小包5 个月前
AI视界周刊第 2 期:里程碑 Llama 3.1 开源、AI训AI,越训越傻、AI 搜索重燃战火
人工智能·资讯
栩栩云生5 个月前
[240726] Mistral AI 发布新一代旗舰模型 | Node.js 合并 TypeScript 文件执行提案
typescript·node.js·资讯