ComfyUI-AniPortrait——数字人插件

仓库地址:++GitHub - chaojie/ComfyUI-AniPortrait++

往期学习资料

整理AI学习资料库

需要的模型如下

工作流如下:

首先把上面的sd-vae-ft-mse、wav2vec2-base-960h模型放到下面的目录,如下

其他模型放到哪里都行,反正是自定义模型路径的,如下

或者你全部模型都放到下面的pretrained_model目录下面也是可以的,反正指定模型路径的时候是手动设置的,放在哪里都可以。

到时我就指定这些模型的路径分别如下:

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\stable-diffusion-v1-5

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\sd-vae-ft-mse

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\sd-image-variations-diffusers\image_encoder

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\wav2vec2-base-960h

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\AniPortrait/audio2mesh.pt

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\AniPortrait/motion_module.pth

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\AniPortrait/denoising_unet.pth

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\AniPortrait/reference_unet.pth

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\AniPortrait/pose_guider.pth

然后设置视频路径,如下

然后设置音频文件路径,如下

或者你直接设置为视频的路径也是可以的,如下

然后上传图片,如下

然后下面的模型位置也改改,如下

我本地改为如下:

D:\硬盘备份\stable diffusion\其他模型\AniPortrait节点所需模型\wav2vec2-base-960h

这样就行了,看看生成的视频怎样的,如下

我们打开看看,如下

效果就是生成的视频人物是我们上传的图片,视频里面人物说的话就是我们上传的音频,也就是它生成的视频是有声音的,是对口型的,然后视频里面的人物动作是根据我们上传的视频里面的人物决定的,也就是下面的视频,如下

其实下面这种视频也可以,如下

也就是openpose预处理后的视频,如上

然后视频的长度也是根据上传的视频决定的。

你可以上传动漫图片,然后上传的视频是写实类型的视频,如下

上传了一张18号图片,视频上传的是一个蓝头发女生唱歌的视频,那么生成的视频效果就是18号在唱歌,而且动作表情啥的跟蓝头发女生是一致的。

更多好玩且实用AIGC技术

星球号:32767063

往期学习资料

整理AI学习资料库

相关推荐
井云智能矩阵系统11 小时前
AI数字人技术革新进行时:井云数字人如何重塑人机交互未来?
人工智能·数字人·ai数字人·声音克隆·数字人交互·数字人分身·克隆形象
多恩Stone3 天前
【Stable Diffusion 1.5 】在 Unet 中每个 Cross Attention 块中的张量变化过程
stable diffusion
今夕节度使3 天前
ARM架构推理Stable Diffusiond
stable diffusion
一刀到底2114 天前
comfyui利用 SkyReels-V2直接生成长视频本地部署问题总结 2 :寻找丢失的model 和工作流中 get set 方法的应用
人工智能·python·comfyui
奔跑吧邓邓子5 天前
DeepSeek 赋能数字人直播带货:技术革新重塑电商营销新生态
生态·应用·数字人·deepseek·直播带货·电商营销
远瞻。7 天前
【论文精读】2024 ECCV--MGLD-VSR现实世界视频超分辨率(RealWorld VSR)
人工智能·算法·stable diffusion·音视频·超分辨率重建
一刀到底2117 天前
comfyui 工作流中 视频长度和哪些参数有关? 生成15秒的视频,再加上RTX4060 8G显卡,尝试一下
人工智能·python·comfyui
远瞻。8 天前
【论文精读】2024 CVPR--Upscale-A-Video现实世界视频超分辨率(RealWorld VSR)
论文阅读·人工智能·算法·stable diffusion·音视频·超分辨率重建
乱世刀疤8 天前
AI绘画:手把手带你Stable Diffusion从入门到精通(系列教程)
人工智能·ai作画·stable diffusion
浪淘沙jkp9 天前
AI大模型学习三十、ubuntu安装comfyui,安装插件,修改返回405 bug,值得一看喔
人工智能·学习·ubuntu·comfyui·dify