Files

7.5 KiB
Raw Permalink Blame History

ComfyUI-Anima-TeaCache

提示: 本节点仍处于实验阶段。目前使用纯 Tag 提示词拟合的系数,在自然语言提示词下的表现可能不佳,请根据实际效果谨慎斟酌使用。使用前务必完整阅读本 README。已尽力兼容 LLLite 的 patch 钩子,但当前系数并非针对 LLLite 单独拟合,因此 LLLite 下的 TeaCache 加速效果与画质不作保证。

简体中文 | English

适用于 ComfyUI 原生 circlestone-labs/Anima 模型的 TeaCache 加速插件。

简介

ComfyUI-Anima-TeaCache 通过比较相邻采样步骤中首个 Transformer Block 的调制输入变化,在变化较小时复用已经计算的残差,从而跳过部分 Transformer Block 计算。

根据采样器、参数、采样步数、分辨率和硬件配置的不同,通常可提供约 1.3×–2.0× 的推理提速。

提速比例并非固定值。更高的缓存阈值通常能够带来更高的缓存命中率和更快的生成速度,但也可能增加画面质量损失。

Anima 的拟合系数、系数迁移过程、信号选择、采样器测试与参数研究均可在以下仓库中找到:

安装

进入 ComfyUI 的 custom_nodes 目录,将本仓库克隆或下载到 ComfyUI-Anima-Teacache 文件夹:

ComfyUI/
└── custom_nodes/
    └── ComfyUI-Anima-Teacache/

如果使用 Git,请将本仓库页面提供的克隆地址替换到下面的命令中:

git clone <repository-url> ComfyUI-Anima-Teacache

重启 ComfyUI 后,即可在 TeaCache 分类中找到 Anima TeaCache 节点。

用法

将 Anima TeaCache 节点连接在 Anima 模型加载节点与采样器之间:

Load Diffusion Model / LoRA
            ↓
      Anima TeaCache
            ↓
         KSampler

Anima TeaCache 节点

可直接将示例工作流拖入 ComfyUI:

此节点只支持 ComfyUI 原生 Anima 模型,不适用于其他模型架构。

节点参数

参数 说明
model ComfyUI 原生 Anima 模型。建议在应用 LoRA 后再连接 TeaCache。
rel_l1_thresh TeaCache 累积相对 L1 阈值。值越高越容易复用缓存,通常速度越快,但画质风险也越高。设置为 0 可关闭 TeaCache。
start_percent 从采样过程的哪个比例开始启用 TeaCache。增大此值可保护前期构图。
end_percent 在采样过程的哪个比例停止启用 TeaCache,也可理解为 stop percent。减小此值可保护后期细节。
cache_device 缓存保存设备。cuda 通常更快但会占用更多显存;cpu 可节省显存,但缓存搬运可能降低提速效果。

推荐参数

以下参数是实用起点,并不是所有提示词、分辨率、采样步数和硬件环境下的绝对最优值。建议先使用“保守”或“平衡”档,再根据生成结果调整。

采样器:euler a

推荐档位 L1 Rel Threshold Start Percent Stop Percent
保守 0.75 0 0.75
平衡 0.85 0 0.75
激进 0.85 0 1

采样器:er sde

推荐档位 L1 Rel Threshold Start Percent Stop Percent
保守 0.150 0 1
平衡 0.2 0 1
激进 0.35 0 1

采样器:euler

推荐档位 L1 Rel Threshold Start Percent Stop Percent
保守 0.05 0 1
平衡 0.075 0.3 1
激进 0.075 0.1 1

自定义调参建议

你可以在推荐值的基础上自行调整参数。建议每次只改变一个参数,并使用相同的提示词、随机种子、采样器、采样步数、CFG 和分辨率进行对比。

  • 如果出现人物比例、肢体、透视、物体位置或整体构图等大结构错误:
    1. 优先降低 rel_l1_thresh;
    2. 如果仍有问题,再增大 start_percent,让采样前期执行更多完整计算。
  • 如果整体结构正确,但画面不够细腻、纹理模糊或小细节缺失:
    • 减小 end_percent,让采样后期停止使用缓存并恢复完整计算。
  • 如果画质稳定但提速不明显:
    • 逐步增大 rel_l1_thresh,或适当扩大 TeaCache 生效区间。

推荐至少保留一张未启用 TeaCache 的固定种子基线图,再与保守、平衡和激进档进行对照。

效果示例

每组采样器内的图片均使用相同的生成设置与随机种子。点击图片可查看原始分辨率。

euler a

原始保守平衡激进
Euler A 原始 Euler A 保守 Euler A 平衡 Euler A 激进

er sde

原始保守平衡激进
ER SDE 原始 ER SDE 保守 ER SDE 平衡 ER SDE 激进

euler

原始保守平衡激进
Euler 原始 Euler 保守 Euler 平衡 Euler 激进

致谢

本项目使用 TeaCache 加速 circlestone-labs/Anima 模型推理。衷心感谢 TeaCache 作者提供的优秀开源成果。

如果 TeaCache 对你有所帮助,请考虑为原始仓库添加 Star,并引用:

@article{liu2024timestep,
  title={Timestep Embedding Tells: It's Time to Cache for Video Diffusion Model},
  author={Liu, Feng and Zhang, Shiwei and Wang, Xiaofeng and Wei, Yujie and Qiu, Haonan and Zhao, Yuzhong},
  journal={arXiv preprint arXiv:2411.19108},
  year={2024}
}

ComfyUI 节点结构与接入方式还参考了:

Anima 的迁移研究与验证记录: