Google发布三款开放式人工智能模型 重点关注安全问题

Google发布了三款新的、"开放的"人工智能生成模型,并称这些模型比大多数模型"更安全"、"更小巧"、"更透明"。它们是Google Gemma 2生成模型系列的新成员,该系列于今年 5 月首次亮相。这些新模型包括 Gemma 2 2B、ShieldGemma 和 Gemma Scope,它们针对的应用和用例略有不同,但共同着眼点都是安全。

Google的 Gemma 系列模型与 Gemini 模型不同,Google不提供 Gemini 的源代码,Gemini 的源代码用于Google自己的产品,同时也提供给开发者。相反,Gemma 是Google为促进开发者社区的善意而做出的努力,就像Meta 试图通过 Llama 所做的那样。

Gemma 2 2B 是一个用于生成分析文本的轻量级模型,可在包括笔记本电脑和边缘设备在内的各种硬件上运行。它获得了某些研究和商业应用的授权,可以从Google的顶点人工智能模型库、数据科学平台 Kaggle 和Google的人工智能工作室工具包等渠道下载。

至于 ShieldGemma,它是一个"安全分类器"集合,试图检测仇恨言论、骚扰和色情内容等毒性。ShieldGemma 建立在 Gemma 2 的基础上,可用于过滤生成模型的提示以及模型生成的内容。

最后,Gemma Scope 允许开发人员"放大"Gemma 2 模型中的特定点,使其内部运作更易于解释。以下是Google在一篇博文中的描述:"[Gemma Scope 由]专门的神经网络组成,帮助我们解读 Gemma 2 处理的密集、复杂的信息,将其扩展为更易于分析和理解的形式。通过研究这些扩展视图,研究人员可以对 Gemma 2 如何识别模式、处理信息并最终做出预测获得有价值的见解"。

新的 Gemma 2 模型发布不久前,美国商务部在一份初步报告中认可了开放式人工智能模型。报告称,开放模型扩大了生成式人工智能对小公司、研究人员、非营利组织和个人开发者的可用性,同时也强调了监控此类模型潜在风险的能力需求。

相关推荐
wwlsm_zql29 分钟前
「赤兔」Chitu 框架深度解读(十四):核心算子优化
人工智能·1024程序员节
AKAMAI2 小时前
Fermyon推出全球最快边缘计算平台:WebAssembly先驱携手Akamai云驱动无服务器技术新浪潮
人工智能·云计算·边缘计算
云雾J视界3 小时前
TMS320C6000 VLIW架构并行编程实战:加速AI边缘计算推理性能
人工智能·架构·边缘计算·dsp·vliw·tms320c6000
想ai抽3 小时前
基于AI Agent的数据资产自动化治理实验
人工智能·langchain·embedding
小马过河R4 小时前
AIGC视频生成之Deepseek、百度妙笔组合实战小案例
人工智能·深度学习·计算机视觉·百度·aigc
june-Dai Yi5 小时前
免费的大语言模型API接口
人工智能·语言模型·自然语言处理·chatgpt·api接口
王哈哈^_^5 小时前
【数据集】【YOLO】【目标检测】农作物病害数据集 11498 张,病害检测,YOLOv8农作物病虫害识别系统实战训推教程。
人工智能·深度学习·算法·yolo·目标检测·计算机视觉·1024程序员节
数据库安全5 小时前
牛品推荐|分类分级效能飞跃:美创智能数据安全分类分级平台
大数据·人工智能·分类
却道天凉_好个秋5 小时前
卷积神经网络CNN(六):卷积、归一化与ReLU总结
人工智能·神经网络·cnn
澄澈青空~5 小时前
blender拓扑建模教程
人工智能·blender