这里是黑石宇的频道

学习颠覆性的免费 AI 视觉特效工作流,

仅使用一张参考图像与 ComfyUI 中的 Wan 2.1. VACE,即可在任何素材中添加可控的生物和一致的角色。

视频教程链接

B站链接:https://www.bilibili.com/video/BV1uhhNzxEwW/

油管链接:https://youtu.be/1PJN1AgM2Ts

AnimateDiff_00268.gif

本篇教程使用了最前沿的AI视频技术,以及如何使用Adobe AE绘制路径轨迹 与 Comfyui进行交互。

我通过制作一部完整的短片,向同学们展示这些可以实现的效果以及实现的方法。

短片在视频教程的结尾部分。

4.gif

拿起龙蛋06.gif

↓↓↓ 工作流和素材文件在文章最下方 ↓↓↓

工作流

一共分为10个部分

工作流整体截图.png

模型下载

Wan2_1-T2V-14B_fp8_e5m2.safetensors:

https://huggingface.co/Kijai/WanVideo_comfy/blob/main/Wan2_1-T2V-14B_fp8_e5m2.safetensors

📁 ComfyUI/models/diffusion_models

Wan21_CausVid_14B_T2V_lora_rank32_v2.safetensors:

https://huggingface.co/Kijai/WanVideo_comfy/blob/main/Wan21_CausVid_14B_T2V_lora_rank32_v2.safetensors

📁 ComfyUI/models/loras

Wan2_1-VACE_module_14B_fp8_e4m3fn.safetensors:

https://huggingface.co/Kijai/WanVideo_comfy/blob/main/Wan2_1-VACE_module_14B_fp8_e4m3fn.safetensors

📁 ComfyUI/models/diffusion_models

umt5-xxl-enc-bf16.safetensors:

https://huggingface.co/Kijai/WanVideo_comfy/blob/main/umt5-xxl-enc-bf16.safetensors

📁 ComfyUI/models/text_encoders

Wan2_1_VAE_bf16.safetensors:

https://huggingface.co/Kijai/WanVideo_comfy/blob/main/Wan2_1_VAE_bf16.safetensors

📁 ComfyUI/models/vae

一、模型加载

您可以点击左侧的链接下载所需的模型。

此外,如果你是16或者12G以下的显存blocks_to_swap设置为40,vace_blocks_to_swap设置为15

1.png

二、选择分辨率

工作流提供三种预设分辨率设置。

默认选择576p,因为它在质量、生成时间和出色的动画效果之间取得了良好的平衡。

8G显存建议选择3,也就是504p。

2.png

三、选择绘制方式

您可以在“帧”节点中定义要生成的帧数。“跳过帧”选项允许您根据需要偏移视频。

左上角可以选择使用Inpainting方法还是Start Frame + ControlNet方法。

  • 选择1代表使用内补方法绘制最终视频 (非特殊情况选择这个1)

  • 选择2代表使用上传视频的起始帧 + DWpose生成最终视频 (这种方法会是视频中的角色、镜头角度或者场景发生变化)。

如果想让最终视频完全和上传的视频一样,只是添加了一些元素进去,那么选则1.

3.png

四、加载素材

没什么好说的,上传要添加到视频中的角色图像,这张图像可以是一个角色的多角度参考图。

节点会自动去除图像背景,并填充。

4.png

五、选择起始帧

在这里选择要生成的第一帧图像:

  • 选择1,使用视频的第一帧 - 如果您的角色从物体或人物后面出现,则效果很好。

  • 选择2,使用带有修复蒙版的第一帧 - 如果角色已在帧中可见,则为最佳选择

  • 选择3,导入您自己的起始帧 - (如果你使用第一帧加 ControlNet工作流,您可以上传已经插入图形的准备好的帧)

如果要添加到视频中的角色一开始没有出现在镜头中,例如这个gif图像 第五帧猫咪才出现,那么选择1,否则选2。

AnimateDiff_00268.gif

5.png

六、绘制轨迹路径

在“手动绘制”部分,点击运行后,系统会加载视频的第一帧为画布的背景。

然后,您可以在此帧上创建样条线。基于这些样条线,系统将自动生成整个帧范围内的点数据。

在画布上点击鼠标右键可以对路径做一些操作。

6.1.png

如果您选择选项 2,请使用此AE导出的轨迹内容粘贴文本节点中。右边,您将找到“Create shape image on path”节点。在这里,您需要使用坐标来源项目的分辨率。出于性能考虑,我们将坐标分辨率限制为最高720p,也就是1280x720。更高的分辨率会显著增加此节点的处理时间。

如果您选择3正在使用SPLINE PATH CONTROL工具,请启用此部分并将Dreamcost网页导出的视频上传到那里。

https://whatdreamscost.github.io/Spline-Path-Control/

6.2.png

第七步部分-绘制遮罩

默认选择2。

选择1,代表你不用轨迹路径来创建遮罩,那么需要手动绘制遮罩,视频的每一帧遮罩都是在你绘制的位置,不会移动。

选择2,代表通过路径轨迹动画来自动创建遮罩。

扩展遮罩节点的扩展属性,默认是70,它的大小决定了你最终视频中添加的角色的大小。

7.png

九、选择控制方式

如果您的场景包含另一个人形人物,DWPose Estimator将生成额外的 Pose ControlNet。

您有三个选择:

选择1,积分

选择2,姿势

选择3,姿势 + 点

这使您可以灵活地选择如何控制运动。

8.png

十、生成视频

在最后一部分,你会发现:

左上角可暂时停用当前节点,这有助于调整早期设置

提示节点,最好使用详细且描述性的提示词来实现高质量的图形集成

视频采样器,默认设置为8 步。您可以将其降低到2 步,以便更快地进行预览和种子测试。满意后设置回8渲染最终视频。

9.png

更多的细节介绍,还请观看视频教程!

素材


如果你喜欢我的教程,还请在点赞订阅我的B站和油管频道,让我更有动力努力下去,也希望你留下宝贵建议,谢谢!

3059D7D8-vlsb.gif
Download.png

工作流+素材文件:素材+工作流.zip