Unity使用NVIDIA的Audio2Face驱动口型

Unity口型插件

1、SALSA LipSync https://marketplace.unity.com/packages/package/148442

2、uLipSync

https://github.com/hecomi/uLipSync

效果令人不太满意

把NVIDIA的Audio2Face搬进Unity

1、一开始搞错了,把Audio2Emotion搬进去了......

2、再来,把Audio2Face搬进去了......怎么嘴歪眼斜的如此抽象

3、多个大模型,一顿修改,看起来可以了......

一些前置条件

1、要下载readme里的模型文件到StreamingAssets下

2、Packages里的onnxruntime-unity和onnxruntime-unity-cuda要安装,电脑要配置cuda和cudnn环境

一些问题

是的,全程没有手写代码,多个大模型轮番上阵。还有一些问题......

最后,视频效果

audio2face-unity

工程地址

https://github.com/xue-fei/audio2face-unity

相关推荐
Martina_032114 小时前
AI生成3D场景的霓虹灯一开就糊成光团?用6步检查Emissive、Bloom与曝光
人工智能·3d·ai·自然语言处理·游戏引擎·材质·贴图
寂寞的船2 天前
【Unity知识速递】第8期 IL2CPP 托管堆内存碎片与原生堆交互机制深度解析
unity·游戏引擎·交互
寂寞的船3 天前
【Unity知识速递】第5期 Unity 6.2 深度解析:AI Assistant 登场,World Space UI 与 Sentis 全面升级
人工智能·ui·unity
寂寞的船3 天前
【Unity知识速递】第4期 MCP for Unity:用 AI 自然语言控制编辑器
人工智能·unity·编辑器
淡海水3 天前
09-04-内存-Unity原生对象生命周期
unity·c#·游戏引擎·gc
寂寞的船3 天前
【Unity知识速递】第6期 URP性能优化完全指南:从内存到GPU的三维调优
unity·性能优化·编辑器
寂寞的船3 天前
【Unity Bug挑战】第10期 SerializeReference 内存泄漏之谜
unity·c#·游戏引擎·bug
tealcwu5 天前
【Unity基础】为什么游戏需要物理按键映射?从 Unity Input Manager 到跨引擎输入设计
java·游戏·unity
tealcwu6 天前
【Unity高级】Unity URP:构建同时支持 2D 与 3D 场景的项目完全指南
3d·unity·游戏引擎
淡海水6 天前
10-01-互操作-C#与C++边界的内存管理
unity·c#·游戏引擎·.netcore·gc