ChatGPT 制造商 OpenAI 今早宣布，已开始训练其新的"前沿模型"，并成立了一个新的安全委员会，由现任董事会成员 Bret Taylor（OpenAI 董事会主席兼客户服务初创公司 Sierra AI 联合创始人、前谷歌地图负责人和前 Facebook 首席技术官）、Adam D'Angelo（Quora和 AI 模型聚合应用程序 Poe 的首席执行官）、Nicole Seligman（索尼公司前执行副总裁兼全球总法律顾问）和 Sam Altman（现任 OpenAI 首席执行官兼联合创始人之一）领导。
正如 OpenAI 在公司博客文章中所写：
" OpenAI 最近开始训练其下一个前沿模型，我们预计最终的系统将使我们在 AGI 的道路上更上一层楼。虽然我们很自豪能够构建和发布在能力和安全性方面均处于行业领先地位的模型，但我们欢迎在这个重要时刻进行激烈的辩论。 "
90 天计时器现在开始
值得注意的是，该公司概述了新委员会在指导新前沿 AI 模型开发中将发挥的作用，并指出：
"安全与保障委员会的首要任务是评估并进一步制定未来 90 天内 OpenAI 的 流程和保障措施 。90 天结束后，安全与保障委员会将与全体董事会分享他们的建议。在全体董事会审查后，OpenAI 将以符合安全与保障的方式公开分享已采纳建议的最新消息。 "
因此，可以合理地得出结论：无论新的前沿模型是什么（无论称为 GPT-5 还是其他名称），它至少在90 天内都不会发布，以便为新的安全委员会提供必要的时间来"评估和进一步开发 OpenAI 的流程和保障措施"，并向"全体董事会"发布建议。
这意味着 OpenAI 董事会应不迟于 2024 年 8 月 26 日收到新的安全委员会的建议。
为什么是 90 天，而不是更长、更短或其他时间？OpenAI 并没有具体说明，但该指标是商业中评估和提供流程反馈的常用指标，似乎与其他指标一样好------不太短，也不太长。
新的安全委员会并不独立
此消息立即招致批评，一些人指出，新委员会完全由 OpenAI"自己的高管"组成，这意味着对该公司安全措施的评估将不是独立的。
OpenAI 刚刚成立了一个由其高管和 Altman 本人组成的监督委员会。这是技术自我监管的一种久经考验的方法，但实际上对监督几乎没有任何作用。
--- Parmy Olson (@parmy) 2024 年 5 月 28 日
OpenAI 董事会此前就曾引发争议，其中许多成员目前都在新成立的安全与保障委员会任职。
2023 年 11 月 17 日，即ChatGPT 一周年纪念日的前五天，OpenAI 非营利控股公司的旧董事会解雇了阿尔特曼的首席执行官职务并解除了公司所有职务，理由是他"并非始终坦诚相待"，结果遭到了员工的坚决反抗和包括大支持者微软在内的 OpenAI 投资者的强烈反对。
2024 年 11 月 21 日，奥尔特曼最终恢复了 OpenAI 首席执行官一职，董事会成员也由泰勒、拉里·萨默斯和亚当·德安杰洛接任，微软也以无投票权观察员的身份加入。当时，董事会因完全由男性主导而受到批评。
今年3 月 8 日，其他成员 Sue Desmond-Hellmann（比尔和梅琳达·盖茨基金会前首席执行官）、Fidji Simo（Instacart 首席执行官兼董事长）、Seligman 和 Altman 也被任命为新董事会成员。
OpenAI（以及人工智能行业）的艰难时期
OpenAI 本月早些时候发布了其最新的 AI 模型GPT-4o，自那时起，其公关形势就一直不太好。
尽管新模型是 OpenAI 同类模型中的第一个（也可能是世界上第一个），从一开始就对多模态输入和输出进行训练，而不是像之前的 GPT-4 那样将几个经过文本和媒体训练的模型串联起来，但该公司还是受到了演员斯嘉丽·约翰逊的批评，她指责 OpenAI 与她接洽，希望她为其新助手配音，并展示了一个她和其他人听起来像她的声音（具体来说是科幻电影《她》中的 AI 助手角色）。OpenAI反驳说，它是单独委托配音的，从来没有打算或指示配音演员模仿约翰逊。
OpenAI 首席科学家兼联合创始人 Ilya Sutskever与其超级协同团队的联席负责人一起辞职，该团队致力于防范超级智能，后者在离职前批评 OpenAI优先考虑"闪亮的产品"而不是安全性。整个超级协同团队被解散。
此外，OpenAI 还因对离职员工制定了严格的非贬损性离职协议，并在违反该协议和其他条款的情况下，对股权进行追回规定而受到批评，但该公司此后表示，不会强制员工遵守该协议（我想补充一点，从我在施乐公司和自动驾驶初创公司 Argo AI 从事技术工作的经历来看，这种情况实际上并不罕见）。
然而，该公司还成功签下了主流媒体的新合作伙伴，以便在 ChatGPT 中提供训练数据和权威新闻，并且音乐家和电影制作人对其 Sora 视频生成模型产生了兴趣------据报道，好莱坞希望利用人工智能来简化电影和电视制作并降低成本。
与此同时，竞争对手谷歌因其在搜索中的人工智能概述答案而受到批评，这表明普通用户对整个人工智能领域产生了更广泛的反对。
我们将拭目以待，OpenAI 的新安全委员会是否能够在其计划推出之前安抚或至少缓解一些批评者，或许更重要的是，监管机构和潜在的商业伙伴。