输入
注意:如果某个注意力块中的 token 数量足够少,无需下采样,则合并函数会被替换为 no-op,模型在该块中保持不变运行。
输出
本文档由 AI 生成。如果您发现任何错误或有改进建议,欢迎贡献! 在 GitHub 上编辑
Source fingerprint (SHA-256):
1202c0df17f357440cd156fa0920f70c18a318e32c41dc04cecff11613f0072fDocumentation Index
Fetch the complete documentation index at: /llms.txt
Use this file to discover all available pages before exploring further.
TomePatchModel 会对扩散模型应用 Token Merging (ToMe),以降低推理过程中的计算开销。
| 参数 | 描述 | 数据类型 | 必需 | 范围 |
|---|---|---|---|---|
模型 | 要应用 token 合并的扩散模型 | MODEL | 是 | - |
比率 | 要合并的 token 比例(默认:0.3)。更高的值会合并更多 token,这可以带来更大的加速,但可能降低质量。 | FLOAT | 是 | 0.0 - 1.0 |
| 输出名称 | 描述 | 数据类型 |
|---|---|---|
model | 应用了 token 合并后的修改模型 | MODEL |
本文档由 AI 生成。如果您发现任何错误或有改进建议,欢迎贡献! 在 GitHub 上编辑
1202c0df17f357440cd156fa0920f70c18a318e32c41dc04cecff11613f0072f