Google 发布 EmbeddingGemma 2:7.4 亿参数的多模态嵌入模型

Google DeepMind 发布了 EmbeddingGemma 2,这是一个拥有 7.4 亿参数的开源多模态嵌入模型,基于 Gemma 4 架构构建,采用 Apache 2.0 许可证发布。该模型的前代 EmbeddingGemma 1 已有超过 2000 万次下载。

EmbeddingGemma 2 的核心设计特点是模块化和参数效率。纯文本工作负载仅需 2.7 亿参数,用户可根据需求选配视觉编码器(1.7 亿参数)和音频编码器(3 亿参数)。在 Google Pixel 11 Pro 设备上,纯文本模式仅需约 191MB 活跃内存,完整多模态配置需要约 567MB 内存。

该模型支持 8K 令牌的上下文窗口,是 EmbeddingGemma 1 的 4 倍。在多模态输入方面,单次可处理最多 5.5 分钟的音频、29 张图像或 58 个视频帧。

EmbeddingGemma 2 引入了可截断输出机制:输出向量默认为 768 维,可根据应用场景截断到 512、256 或 128 维,存储空间最多可减少 6 倍。官方博客未说明截断后对检索准确率的影响。

在代码嵌入任务上,EmbeddingGemma 2 在 MTEB Code 基准测试中的表现从 68.76 分提升到 78.68 分,提升幅度为 9.92 分。官方博客未公布其他基准测试的对比数据,也未说明与同类开源模型在多模态检索任务中的性能差异。

相关推荐
一条Go13 分钟前
Pod 终端与日志:为什么浏览器建连要先换一张 60 秒的票
后端·架构·github
一条Go18 分钟前
开源新生代雷达 · 第 14 期
github
feasibility.24 分钟前
399美元桌面机器人Doly:可爱电子宠物+树莓派开源平台,但不能像ChatGPT那样聊天
机器人·开源·嵌入式·树莓派·diy·桌宠
翼帆2 小时前
我用 AI 复刻了 CodeTank,重温代码坦克
前端·javascript·开源·ai编程·游戏开发·codetank
徐小夕3 小时前
万字拆解:零向量库、无模型微调,SAG2 凭什么刷新多跳问答 SOTA
前端·vue.js·github
黑土豆3 小时前
用 drawink 给业务页面加一层画板:从网页批注到无限板书
前端·javascript·github
狂师4 小时前
牛逼!谷歌亲自下场开源的AI自动化神器!
人工智能·开源·测试
冬奇Lab14 小时前
一天一个开源项目(第262篇):AG-UI —— 把 AI Agent 接进前端的开放协议,和 MCP、A2A 并列的第三块拼图
人工智能·开源
孟健18 小时前
用T3 Code手机远程控制Claude Code完成周报总结实测
开源·ai编程·claude
字节跳动开源18 小时前
小红书/抖音图文排版利器——一个杂志风skill
人工智能·开源·设计