Genie 4新增原生音频,实时世界模型加入声音生成

DeepMind发布了新一代世界模型Genie 4。相比此前版本,这次最大的变化是加入了原生音频生成能力,官方称其为"DeepMind首个原生生成音频的实时世界模型"。

音频生成是怎么加进去的

世界模型(world model,指能模拟环境变化并预测后续状态的AI模型)此前主要生成画面,声音通常靠后期叠加或单独处理。Genie 4的做法不同,官方博客写道,它"原生支持多模态,能够在生成世界画面的同时,同步生成类似音频的音乐、环境噪音和交互式对话"。也就是说,画面、音乐、环境声和对话在同一个生成过程里产出,不是分开渲染再合成。

这套能力建立在Gemini系列模型基础上。官方表示,Genie 4模型"整合并扩展了Gemini家族的能力"。具体分工上,Gemini Omni负责把模拟结果锚定到真实世界的外观和行为上;Gemini 3.8 Flash则在交互循环中充当实时引导代理(agent,指能自主执行任务的AI程序),实时调整模拟过程中的内容生成。

官方博客给出的一个演示场景是:用户骑着一条巨大的黑龙,以每小时140公里的速度穿越一条多山的龙族竞速赛道。这类场景展示了实时生成画面与配套音效同步输出的效果。

开放范围和获取方式

目前Genie 4已经开始作为研究预览版,向受信任的测试者推出。面向消费者和开发者的发布会分批进行,第一批是Google AI Ultra订阅用户(通过Project Genie),以及Gemini API和Google AI Studio的早期访问合作伙伴。

普通用户和多数开发者目前还接触不到这个模型,开放节奏和具体功能边界官方没有给出更详细的时间表。

适用人群与待观察问题

这次更新主要值得关注的是两类人:一是做游戏、影视预演(previz)或模拟训练内容的开发者,他们关心的是画面与音效同步生成能否减少后期合成的工作量;二是关注AI生成内容质量的研究者,关心原生音频生成在真实感和一致性上能到什么水平。

官方博客没有公开具体的性能对比数据或与前代Genie模型的量化差异,音频生成的延迟、音质和长时程稳定性目前还缺乏第三方测试结果,这些留待后续观察。

原文地址:tools.wflynn.cn/aitools/tre...

关注公众号「YourTools」,每天推送 GitHub 趋势与开源工具速报:

相关推荐
dong_junshuai1 小时前
每天一个开源项目#155 MuJoCo:从接触求解到控制时序的物理引擎
github
GitHub实测笔记1 小时前
eza 本机实测:一万文件 -l 中位 48ms、ls 21.5ms;脚本里裸跑 eza 输出为空
github
一条Go1 小时前
开源新生代雷达 · 第 04 期
github
一条Go1 小时前
告警指纹:一次故障为什么只产生一条 FIRING 记录
后端·架构·github
鶴哥只手遮天1 小时前
《Redis 8.10.3 深度剖析》系列 ·第 13 章 Set:三种编码、集合运算与随机采样
redis·后端·开源
wyxspark1 小时前
在本地 AI 中实现绝对可复现:一份 12,810 条哈希的硬核工程记录
github
简创AIGC陶先生1 小时前
【直播切片工作台】第31章:任务接口与任务服务
github
菩提小狗3 小时前
每日极客日报 · 2026年11月09日
ai·开源·极客日报·it热点·技术资讯
终码一生3 小时前
开源项目|一款强大的桌面远程控制软件
后端·开源