阿里云万相Wan2.1 VACE模型的多图参考、姿态参考及深度参考图文教程(工作流测试案例)

简介: 阿里云万相Wan2.1 VACE是统一视频编辑大模型,支持局部编辑、重绘、背景扩展、时长延展及多模态控制(文本/图像/视频)。具备多图参考、姿态参考、深度参考三大核心能力,可精准融合内容与动作。现开放免费试用,千万Tokens限时领取。在阿里云百炼官网:https://t.aliyun.com/U/fPVHqY 免费领取千万Tokens

阿里云万相Wan2.1 VACE视频编辑统一模型,支持局部编辑、视频重绘、背景扩展、时长延展、图片参考等多种视频编辑与生成任务,支持文本、图像、视频等多模态条件控制。本文转自阿里云官网关于Wan2.1 VACE模型的多图参考、姿态参考、深度参考能力及工作流创建逻辑,关于万相Wan2.1 VACE模型的详细介绍参考阿里云百炼平台:https://www.aliyun.com/product/bailian 目前可以免费申请千万Tokens。

wanvace.jpg

核心概念

多图参考是指在生成或处理视频时,能够同时参考多张输入图片的内容信息,融合生成在同一条视频里。这种能力在电商、艺术创作等领域有着极高的应用价值。

image.png


工作流框架

整个工作流可以大致分为3个区域:中心的基础框架区域、前段的输入区域和末端的视频放大区域。

  • 中心区域的Wan2.1 VACE工作流本质是在Wan2.1文生视频工作流的基础上增加了VACE的模型加载和编码器。

image.png


  • 在前端输入区域,因为是多张图片的参考,所以每一个图像加载都会有对应着的尺寸调整,去除背景等节点。

image.png

  • 最后将处理好的图片进行联结、编码,并传输进采样器采样、解码,就可以输出成最终的视频啦。


Wan2.1 VACE工作流的基本框架搭建

采样器配置

首先,选择我们的Wan视频采样器(WanVideo Sampler),并调整参数:步数(steps)输入20cfg值输入6shift值输入8采样器(scheduler)选择dpm++

image.png


在阿里云百炼平台API调用Wan模型:https://www.aliyun.com/product/bailian  如下图:

阿里云百炼AI大模型免费领取7000万tokens.jpg

模型加载选择

model圆点下我们拖拽出Wan视频模型加载器(WanVideo Model Loader),选择Wan2.1_T2V_14b的模型。

image.png


随后,我们拖拽出Wan视频Block Swap节点(WanVideo Block Swap),参数保持默认。


image.png


vace_model圆点下拖拽出Wan视频VACE模型选择器(WanVideo VACE Module Select)选择我们的主角Wan2_1_VACE_14b的模型。


image.png


文本编码

我们回到Wan视频采样器(WanVideo Sampler),在text_embeds圆点下拖拽出Wan视频文本编码器(WanVideo TextEncode),随后t5圆点下拖拽出Wan视频T5文本编码加载器(WanVideo T5 TextEncoder Loader),选择umt5_xxl_fp8_scaled的模型。


image.png

加速与优化节点

在采样器里我们再拖拽出几个加速视频生成及提高画面质量的节点,Wan视频Enhance-A-Video(WanVideo Enhance-A-Video)节点、Wan视频TeaCache(WanVideo TeaCache)节点、Wan视频SLG(WanVideo SLG)节点以及Wan视频Experimental Args(WanVideo Experimental Args)节点。


image.png


图像编码与解码

image_embeds圆点下我们拖拽出Wan视频VACE编码器(WanVideo VACE Encode)节点,在VAE圆点下我们拖拽出Wan视频VAE加载器(WanVideo VAE Loader),选择Wan2_1_VAE_bf16模型。


image.png

最后我们在samples圆点下拖拽出Wan视频解码器(WanVideo VACE Decode)节点,将vae圆点进行连接。


image.png

输出处理

Wan视频解码器(WanVideo VACE Decode)节点之后拖拽出视频合并(Video Combine)节点,帧数保持16,输出格式选择video/h264-mp4

这样,Wan2.1 VACE工作流的基本框架我们就搭建完成了,所有的Wan2.1 VACE工作流都会基于这个框架衍生。

image.png

多图参考工作流搭建

多图输入模块构建

接下来,我们来构建一下多图参考的前期输入模块。我们创建一个加载图片(Load Image)节点,在IMAGE圆点下拖拽出调整图片尺寸(Resize Image v2)节点,调整一下参数,宽度(width)我们给480高度(heidht)保持在720upscale_method选择lanczos

image.png

随后在这个节点后拖拽出图像背景移除(Image Remove Bg)节点,我们将这三个节点复制一份,主图的rem_mode模式我们选择Inspyrenet

image.png

随后我们加载一个图像联结(Image Concatenate)节点,将两张图联结,方向(direction)保持右侧(right)

image.png

在图像联结节点下的IMAGE圆点我们拖拽出一个Get Image Size&Count节点方便我们统一处理图片尺寸。

image.png


我们还可以加载一个图像预览(Preview Image)节点待会看看合并效果。

image.png

最后我们将处理后的的图像接入Wan视频VACE编码器(WanVideo VACE Encode)节点下的ref_images圆点作为参考图,将宽(width)高(height)也连接一下。


image.png

在空白区域我们再创建一个图像联结(Image Concatenate)节点,将解码后的图像与前期预处理的图像进行一个联结,传输进我们复制的视频合并(Video Combine)节点,这样我们可以方便的看到预处理与生成画面的整体效果。


image.png


这样我们的Wan2.1 VACE多图参考的工作流就搭建完成了。


多图参考工作流测试案例

我们上传两张图片一起来测试一下效果,我希望主图的红发女人能与副图的水下金鱼场景融合,在这里因为副图是作为背景,不需要扣像,所以我们将副图的背景移除节点关闭,将节点重新连接一下,我们将负向提示词模版复制进来,输入一下正向提示词,点击运行。

image.png

可以看到人物与背景得到了一个巧妙的融合,光影与场景细节也是非常的还原。

image.png


姿态参考与深度参考能力详解


核心原理

那再让我们来看看Wan2.1 VACE的姿态参考与深度参考工作流。

姿态参考和深度参考的原理是通过openpose模型和深度预测算法,提取上传视频的人物骨骼点或画面深度图,并结合提示词语义控制最终输出视频的画面效果。因此,这两个工作流最核心的节点就是OpenPose节点与Depth Anything节点,我们可以一起着手来搭建一下这套工作流。

image.png

姿态参考与深度参考工作流搭建

基础框架复用

我们导入一个Wan2.1 VACE的基础框架工作流。

image.png


视频输入

双击空白处创建一个加载视频【Load Video(Upload)】节点,我们可以直接拖拽视频上传。随后在IMAGE圆点下拖拽出Image Resize节点,调整宽(width)480高(height)720interpolation参数选择nearest

image.png

控制节点

接着,我们拖拽出OpenPose Pose节点,这个节点主要帮助我们提取视频中的人物骨骼信息。

image.png 同样的,我们还可以拖拽出Depth Anything节点,这个节点可以提取视频的画面深度信息。


image.png

通过图像混合(Image Blend)节点我们将两个节点混合一起,这个节点就像一个开关,当我们选择0时,对应选择OpenPose模型,写入1时可以切换Depth模型。


image.png


数据传输

随后在图像混合(Image Blend)节点下的IMAGE圆点拖拽出Get Image Size&Count节点,和多图参考工作流一样,我们将图像及尺寸传输进Wan视频VACE编码器(WanVideo VACE Encode)节点。


image.png

我们双击空白处,创建加载图像【Load Image(Path)】节点,随后拖拽出调整图像(Resize Image v2)节点与Wan视频VACE编码器(WanVideo VACE Encode)节点的ref_images进行连接,作为视频的参考图。


image.png

同时,我们将视频的尺寸与图像尺寸保持一致。


image.png

可视化对比

我们再次双击空白处创建图像联结(Image Concatenate)节点,将上传的图像与解码后的视频联结

image.png

再创建一个图像联结节点将预处理的控制视频也联结过来

image.png

最后与视频合并连接,这样我们可以更直观的看到整个工作流的各个重要环节的输出结果

image.png

那么这样我们的整套工作流就搭建完成了。

姿态参考与深度参考测试案例

姿态参考测试

我们上传一张艺术感人物图像,用OpenPose模型来测试一下,这里我希望图像中的人物能参考视频的动作起舞,输入一下提示词点击运行。

image.png

我们可以看到人物完美复刻了视频中的动作,效果非常不错,实现了精准响应。

image.png

深度参考测试

我们再上传一段场景丰富一点的滑雪视频,以及一张滑沙的图像,我们使用深度控制对视频进行控制,输入提示词,点击运行。

image.png


我们可以看到滑沙的动作参考了滑雪者运动感十足,背景的处理也变得更加丰富了。

image.png


本节课系统解析了Wan2.1 VACE模型的三大核心能力——多图参考、姿态参考与深度参考,展示了其在视频生成领域对细节还原与动态控制的强大潜力。大家可以移步到阿里云百炼平台测试https://www.aliyun.com/product/bailian

相关文章
|
3天前
|
缓存 弹性计算 分布式计算
阿里云账号:计算型/通用型/内存型价格与场景区别
本文深度解析阿里云ECS三大主力实例:计算型(1:2)、通用型(1:4)、内存型(1:8)的硬件配比、适用场景与性价比逻辑。通过真实业务案例、价格测算与三步决策法,助企业告别“乱选配置”,精准匹配CPU与内存需求,避免资源浪费,实现降本增效。
|
21小时前
|
数据采集 运维 监控
2026企业数据系统建设指南:从方法论到产品,构建企业级数据体系
在2026年的今天,企业数据建设正面临从“存好数据”到“用好数据”的关键转型。许多企业投入巨大成本建设的数据系统,因数据孤岛、质量低下、标准不一等问题,最终沦为无法产生价值的“数据坟墓”。如何打破这一困局,构建一个标准统一、质量可靠、消费便捷的数据体系,成为企业数智化升级的核心命题。本文将聚焦瓴羊Dataphin这一智能数据建设与治理平台,深入剖析其产品能力、核心优势及在零售、金融、制造等行业的落地实践,为企业提供一条从数据集成、治理到资产化运营的可参考路径,助力企业真正释放数据价值。
|
23小时前
|
存储 弹性计算
阿里云 ECS 计费拆解:三大核心费用项(计算 / 存储 / 网络)完整说明
本文详解阿里云ECS三大核心计费项:必选的计算(vCPU+内存)、存储(系统盘/数据盘),以及可选的网络(公网带宽/IP)。另含快照(按需付费)说明,助您清晰掌握ECS费用构成与选购要点。阿里云ECS官网:https://t.aliyun.com/U/AZBUsA
|
21小时前
|
缓存 运维 数据可视化
三层架构下集团固定资产全生命周期数字化落地实践
该方案针对集团资产管控中台账混乱、账实不符、盘点低效等痛点,构建资源-平台-应用三层数字化架构,支持多终端采集、分级权限、系统集成与离线作业,实现资产全生命周期管理,显著提升账实一致率与管理效率。
|
23小时前
|
人工智能
2026 GOAI 世界人工智能开源大赛—新智基座 Agent Infra 赛道正式启动! ¥190万总奖池等你挑战!
2026 GOAI 世界人工智能开源大赛—新智基座 Agent Infra 赛道正式启动!¥190万总奖池等你挑战!
63 10
|
12天前
|
人工智能 缓存 自然语言处理
阿里云百炼Token Plan(团队版)按Credits订阅AI模型,费用198元支持华北2(北京)地域
阿里云百炼Token Plan团队版是面向企业的AI大模型订阅服务,以Credits统一计费,支持千问、DeepSeek、Kimi等多模型文本与图像生成,兼容主流编程及智能体工具;提供团队管理后台、数据安全保障与平稳调用体验,仅限华北2(北京)地域使用。在阿里云百炼官网:https://t.aliyun.com/U/fPVHqY 免费领取千万Tokens
|
12天前
|
人工智能 自然语言处理 API
阿里云百炼Token Plan指南:介绍、费用、订阅、API Key 和 Base URL获取及使用全流程
阿里云百炼Token Plan团队版是面向企业的AI大模型订阅服务,以Credits统一计量,支持Qwen3.7/3.6、GLM-5、DeepSeek、Kimi、Wan2.7等150+文本与图像模型,兼容Cursor、Claude Code、OpenClaw等主流AI工具,提供团队管理、数据安全与稳定调用保障。在阿里云百炼官网:https://t.aliyun.com/U/fPVHqY 免费领取千万Tokens
|
23小时前
|
存储 弹性计算
阿里云服务器ECS收费包含哪些项目?哪些费用是必须支付的?
阿里云ECS费用含计算(CPU/内存,必选)、存储(系统盘/数据盘,必选)和网络(公网带宽/IP,可选)三大项;快照为可选备份服务。详情及优惠见官网:https://t.aliyun.com/U/AZBUsA
25 0
|
21小时前
|
人工智能 IDE API
阿里云百炼Coding Plan详细介绍:是什么、收费价格、支持模型和AI工具
阿里云百炼Coding Plan是面向开发者的AI编码专属订阅套餐,Lite基础版已全面停售,当前仅Pro高级版支持新购与续费。新用户可享首月200元限时特惠,采用固定月费模式,整合通义千问、Kimi、GLM等多款大模型,兼容Cursor、Qwen Code等数十款主流AI编程工具。产品采用5小时滚动、周度、月度多层级额度恢复机制,月度最高9万次请求,单位调用成本远低于普通按量计费。该套餐仅限交互式编码场景使用,严禁后端自动化调用,适合个人日常写代码;若涉及团队协作或生产级API集成,更推荐搭配Token Plan团队版使用。
|
23小时前
|
人工智能 API 开发工具
阿里云百炼Coding Plan完整指南:计费价格、请求次数、使用教程及免费Tokens领取指南
阿里云百炼Coding Plan是专为开发者打造的AI编程订阅服务,当前仅售Pro高级版(200元/月),享9万次/月调用额度,含qwen3.6-plus、kimi-k2.5、glm-5等多款满血编程模型,兼容Cursor、Qwen Code等主流工具,固定月费、额度用尽即停,无隐形扣费。在阿里云百炼官网:https://t.aliyun.com/U/fPVHqY 免费领取千万Tokens