守口如瓶,OpenAI刻意隐瞒的黑客攻击事件时隔一年被证实

据《纽约时报》7月4日报道,2023年4月份,一名黑客入侵了 OpenAI 的内部消息系统并窃取了有关该公司AI技术的信息

然而,OpenAI以客户数据未受影响且黑客与外国政府无关为由,并未向公众或执法部门公开这一事件,而是仅仅向员工披露。

OpenAI表示:

此事件并不对国家安全构成威胁,所以未通知联邦执法机构。

项目经理因"进谏"被开除

据报道中两名知情人士透露,黑客窃取了一个在线论坛的讨论细节,而这个论坛正是OpenAI员工讨论最新技术的地方。不过,黑客并没有进入该公司存储和构建人工智能的系统。

虽然黑客攻击并未泄露客户或合作伙伴数据,但OpenAI作为全球领先的人工智能研究公司,对待此起安全事件的漠然态度遭到了广泛质疑。

当公司在2023年4月的全体会议上向员工和董事会披露此事件,并决定不对外公开时,部分员工对此举措提出质疑。

其中技术项目经理利奥波德·阿森布伦纳(Leopold Aschenbrenner)态度最为强烈。他向OpenAI董事会发了一份备忘录,提出了安全担忧,认为OpenAI在安全防护方面的努力不足以防止包括中国政府在内的外国对手窃取其机密。

然而Aschenbrenner却因泄露信息而被开除,他认为这是出于政治动机,而公司发言人Liz Bourgeois对此回应,声称开除与Aschenbrenner的声明无关:

我们感谢阿森布伦纳在OpenAI工作期间提出的担忧,这并不是导致他离职的原因。虽然我们和他一样致力于打造安全的通用人工智能,但我们不同意他后来对我们的工作提出的许多说法,包括他对我们安全措施的描述,尤其是这次入侵事件。在他加入公司之前,我们已经解决了这个问题,并向董事会报告。

此回应小编将信将疑,直呼好家伙:OpenAI在面对问题时,没有选择解决问题,而是选择了解决发现问题的人,以此掩耳盗铃。

以小见大:AI安全需重视

无独有偶,本次攻击并非OpenAI遭受的首次黑客攻击,在23年11月8日晚间,OpenAI的ChatGPT和API(第三方服务应用程序接口)突发严重停机,大量网友称无法使用。

事后,OpenAI回应ChatGPT受到DDoS(分布式拒绝服务)攻击的迹象。

DDoS攻击,简单地说就是黑客利用控制的大量设备疯狂向目标服务器发送访问请求,导致服务器过载崩溃。

此类事件不仅质疑了OpenAI的安全措施,引发了关于美国国家安全的威胁,同时也暴露了关于人工智能风险的问题。

AI成为黑客的"香饽饽",究竟是为何?

以数据方面为例,AI公司拥有的数据包括高质量训练数据、用户交互数据和客户数据。

训练数据绝不仅仅是网络数据的爬取,其构建需要花费大量的时间,精力。OpenAI公司建立的训练数据集对竞争对手、其他公司,对手国家以及美国的监管机构都具有巨大价值。

用户的交互数据的价值同样不容小觑,OpenAI庞大的用户数据库 --- 可能包含数十亿用户与ChatGPT进行的多样话题的对话。通过对话分析,或许ChatGPT比你更了解你自己,用户与ChatGPT的对话将用户的信息,偏好,心理一览无遗地暴露出来,正提供了深入了解用户的渠道。

AI公司成为黑客攻击的新目标,安全防护措施的重要性日渐凸显,即使此起安全事件没有严重数据泄霞,也应引起关注。

参考资料

1\]https://mp.weixin.qq.com/s/VbZBiqBCeFb29MY3sIWWwQ \[2\]https://www.reuters.com/technology/cybersecurity/openais-internal-ai-details-stolen-2023-breach-nyt-reports-2024-07-05/ \[3\]https://www.chinaz.com/ainews/10065.shtml

相关推荐
千宇宙航1 小时前
闲庭信步使用SV搭建图像测试平台:第三十一课——基于神经网络的手写数字识别
图像处理·人工智能·深度学习·神经网络·计算机视觉·fpga开发
IT古董1 小时前
【第二章:机器学习与神经网络概述】04.回归算法理论与实践 -(4)模型评价与调整(Model Evaluation & Tuning)
神经网络·机器学习·回归
onceco1 小时前
领域LLM九讲——第5讲 为什么选择OpenManus而不是QwenAgent(附LLM免费api邀请码)
人工智能·python·深度学习·语言模型·自然语言处理·自动化
天水幼麟2 小时前
动手学深度学习-学习笔记(总)
笔记·深度学习·学习
jndingxin4 小时前
OpenCV CUDA模块设备层-----高效地计算两个 uint 类型值的带权重平均值
人工智能·opencv·计算机视觉
天水幼麟4 小时前
动手学深度学习-学习笔记【二】(基础知识)
笔记·深度学习·学习
Sweet锦4 小时前
零基础保姆级本地化部署文心大模型4.5开源系列
人工智能·语言模型·文心一言
hie988945 小时前
MATLAB锂离子电池伪二维(P2D)模型实现
人工智能·算法·matlab
晨同学03275 小时前
opencv的颜色通道问题 & rgb & bgr
人工智能·opencv·计算机视觉
蓝婷儿5 小时前
Python 机器学习核心入门与实战进阶 Day 3 - 决策树 & 随机森林模型实战
人工智能·python·机器学习