AIGC Daily Digest #03
大家好，这是今天的内容。
❤️ 精选
Preparedness framework from OpenAI - OpenAI刚刚组建了一个名为"Preparedness Team"的安全小组。他们还为此准备了一个名为"Preparedness Framework"的框架。基本上，他们想确保他们的下一代人工智能模型发布到世界上时是可控的，并且不会引起麻烦。🍿我们的摘要（也在下面）
Bard的3个小更新：
- YouTube、Gmail、Maps等即Bard扩展现在还支持日语和韩语。
- 现在支持导出到Replit的编程语言增加到18种，包括C++、Javascript、Ruby和Swift。
- Bard UK现在背后运行着Gemini Pro。终于实现了！
⚒️ 热门工具
- VoiceDual - 利用AI变声
- Vexa Search - 通过图像深入探索知识的深度。
- GuestLab AI - 在几秒钟内提供的采访对象的研究报告。 GuestLab可以从根据采访嘉宾的LinkedIn资料，即时生成精心打造的开场白、有趣的话题和深刻的问题。 更快地完成对嘉宾的研究，从而节省大量时间，让你能够专注于做最擅长的事情--自信地采访您的嘉宾； 它可以找到你找到可能从未想过的主题和问题。通过引入有趣的角度，创造一场精彩的对话。 提出优秀的问题，出色的对话建立在出色的问题之上。通过提出深思熟虑且引人思考的问题，使每一集播客节目都变得有趣。
-
Martian -在多个模型之间动态路由，能降低20%-97%的成本。
Martian是第一个LLM路由器，通过在多个模型之间动态路由，Martian在性能上能够超过GPT-4，将成本降低20%-97%，并简化使用人工智能的过程。
🆕 行业新闻
AI治理:
- OpenAI表示董事会可以否决首席执行官在新的人工智能发布的安全性问题上的决定。
- OpenAI进行了内容审查工作的全面改革，这项改革是在即将临近的选举之际进行的。
模型热潮：
- 在终端中使用LLM，有很多选项来运行Mistral模型。
- 新版本名为 "OpenChat-3.5-1210"，拥有70亿参数，是一款开源模型。据称，它超越了GPT-3.5和Grok模型的性能。
- 我们如何对 Mistral 7B 进行微调优化。
资金流向：
- Martian公司为动态LLM路由筹集了900万美元。
- IBM花费23亿美元收购了Software AG旗下的StreamSets和WebMethods。
✨ 快速了解
OpenAI最近推出了一个新的安全举措，被称为" Preparedness Team"（准备团队），并伴随着"Preparedness Framework"（准备框架）的开发。
其主要目标是确保即将推出的先进AI模型在部署时是安全的，最小化潜在风险。
这里发生了什么？
实质上，OpenAI正在建立一个框架，用来评估人类和AI模型之间和谐互动的准备程度。
这意味着什么?
当然。 OpenAI包括各种安全团队，包括Superalignment团队，专注于解决由人工超级智能超越人类能力而带来的存在风险。与此同时，模型安全团队负责确保诸如GPT-3.5和GPT-4之类的模型在日常使用中的安全性。
新成立的Preparedness Team将集中精力预测与最先进的AI模型（通常称为前沿模型）相关的风险。他们的方法基于事实分析和建设者思维。
该框架对各个方面进行分类，包括黑客风险，模型对人类的说服力，它们的自主水平等。每个模型将获得一个从低到关键风险的安全评级。只有低风险和中风险的模型才会获得批准上线，而高风险模型可能需要进一步开发。有关该框架（beta版）的详细信息，请参阅此链接。
Preparedness Team将负责对模型进行技术评估。 OpenAI的领导层将在外部安全顾问的建议下做出最终决策。值得注意的是，董事会保留撤销决定的权力，如果他们认为模型不安全的话。
为什么我们应该关注？
最近的一些成就，比如Deepmind的LLM解决以前无法解决的数学问题，以及视觉模型在解决验证码方面超过人类，突显了AI模型能力的增强。潜在的风险来自于AI模型能够创造新的毒素，识别安全系统的漏洞，或自主使用计算机。这些实际风险超过了AI机器人伤害人类的假设场景。建立一个了解这些模型局限性的框架对于积极开发而非在推出后进行反应性调整至关重要。
在OpenAI最近的安全更新中，一个总体主题表明OpenAI可能正在为发布一个更智能（并潜在更有风险）的模型做准备。然而，重要的是将这视为夸张、谣言或猜测，而不是已确认的信息。