Cache-DiT：唯品会开源的扩散模型推理加速框架

Cache-DiT：唯品会开源的扩散模型推理加速框架

摘要

DiT模型推理面临时序冗余、注意力成本高和显存压力三大瓶颈。Cache-DiT框架通过统一缓存抽象、DBCache分区缓存、UAA并行、SVDQuant量化及Bucket式Offload等可组合优化，将FLUX.1-dev在单卡L20上从24.85秒加速至约4.5秒，实现5.52倍提速。