DitCacheSearchConfig
功能说明
DiT缓存搜索参数配置类,保存用于缓存搜索的配置参数。
函数原型
class DitCacheSearchConfig(cache_ratio=1.3, dit_block_num=None, num_sampling_steps=None)
参数说明
| 参数名 | 输入/返回值 | 含义 | 使用限制 | 使用说明 |
|---|---|---|---|---|
cache_ratio |
输入 | 加速比 | 可选。 数据类型: float。默认值:1.3 取值范围:(1.0, 2.0) |
控制缓存应用的加速比,值越大表示期望的加速效果越明显。 |
dit_block_num |
输入 | DiT块数量 | 可选。 数据类型: int。默认值: None |
通常由系统自动设置,无需手动指定。 |
num_sampling_steps |
输入 | 采样步数 | 必选。 数据类型: int。必须为正整数 |
应与实际推理时的采样步数一致。 |
调用示例
from msmodelslim.pytorch.multi_modal.dit_cache import DitCacheSearchConfig
# 设置搜索配置
config = DitCacheSearchConfig(
cache_ratio=1.3,
num_sampling_steps=100
)
注意事项
- cache_ratio应在合理范围内设置,过大的值可能导致质量下降
- 搜索过程的时间复杂度与num_sampling_steps成正比