Skip to main content
TomePatchModel 会对扩散模型应用 Token Merging (ToMe),以降低推理过程中的计算开销。其工作方式是在模型的注意力机制内部合并相似的 token,这样模型处理的 token 更少,同时基本保持输出质量不变。

输入

注意:如果某个注意力块中的 token 数量足够少,无需下采样,则合并函数会被替换为 no-op,模型在该块中保持不变运行。

输出

本文档由 AI 生成。如果您发现任何错误或有改进建议,欢迎贡献! 在 GitHub 上编辑

Source fingerprint (SHA-256): 1202c0df17f357440cd156fa0920f70c18a318e32c41dc04cecff11613f0072f