Google发布三款开放式人工智能模型 重点关注安全问题

Google发布了三款新的、"开放的"人工智能生成模型,并称这些模型比大多数模型"更安全"、"更小巧"、"更透明"。它们是Google Gemma 2生成模型系列的新成员,该系列于今年 5 月首次亮相。这些新模型包括 Gemma 2 2B、ShieldGemma 和 Gemma Scope,它们针对的应用和用例略有不同,但共同着眼点都是安全。

Google的 Gemma 系列模型与 Gemini 模型不同,Google不提供 Gemini 的源代码,Gemini 的源代码用于Google自己的产品,同时也提供给开发者。相反,Gemma 是Google为促进开发者社区的善意而做出的努力,就像Meta 试图通过 Llama 所做的那样。

Gemma 2 2B 是一个用于生成分析文本的轻量级模型,可在包括笔记本电脑和边缘设备在内的各种硬件上运行。它获得了某些研究和商业应用的授权,可以从Google的顶点人工智能模型库、数据科学平台 Kaggle 和Google的人工智能工作室工具包等渠道下载。

至于 ShieldGemma,它是一个"安全分类器"集合,试图检测仇恨言论、骚扰和色情内容等毒性。ShieldGemma 建立在 Gemma 2 的基础上,可用于过滤生成模型的提示以及模型生成的内容。

最后,Gemma Scope 允许开发人员"放大"Gemma 2 模型中的特定点,使其内部运作更易于解释。以下是Google在一篇博文中的描述:"[Gemma Scope 由]专门的神经网络组成,帮助我们解读 Gemma 2 处理的密集、复杂的信息,将其扩展为更易于分析和理解的形式。通过研究这些扩展视图,研究人员可以对 Gemma 2 如何识别模式、处理信息并最终做出预测获得有价值的见解"。

新的 Gemma 2 模型发布不久前,美国商务部在一份初步报告中认可了开放式人工智能模型。报告称,开放模型扩大了生成式人工智能对小公司、研究人员、非营利组织和个人开发者的可用性,同时也强调了监控此类模型潜在风险的能力需求。

相关推荐
2401_841495643 小时前
【计算机视觉】基于数学形态学的保留边缘图像去噪
人工智能·python·算法·计算机视觉·图像去噪·数学形态学·边缘保留
三天哥3 小时前
Sora 2为什么会火?
人工智能·gpt·ai·aigc·agi·ai视频·sora
逻辑留白陈3 小时前
2025年实用大模型工具清单
人工智能·学习方法
许泽宇的技术分享3 小时前
AI驱动的视频生成革命:MoneyPrinterTurbo技术架构深度解析
人工智能·内容创作·ai视频生成
飞哥数智坊3 小时前
“成章”写作助手开源:中秋赏不成月,那就开源一个 AI 实战项目吧
人工智能·ai编程·trae
colus_SEU3 小时前
【循环神经网络6】LSTM实战——基于LSTM的IMDb电影评论情感分析
人工智能·rnn·深度学习·神经网络·lstm
zezexihaha4 小时前
AI + 制造:从技术试点到产业刚需的 2025 实践图鉴
人工智能·制造
文火冰糖的硅基工坊4 小时前
[人工智能-综述-21]:学习人工智能的路径
大数据·人工智能·学习·系统架构·制造
爱喝白开水a5 小时前
2025时序数据库选型,从架构基因到AI赋能来解析
开发语言·数据库·人工智能·架构·langchain·transformer·时序数据库
小关会打代码6 小时前
计算机视觉进阶教学之Mediapipe库(一)
人工智能·计算机视觉