SmoothCache

SmoothCache是一种专为Diffusion Transformers（DiT）模型设计的通用推理加速技术，由Roblox与女王大学的研究团队共同开发。该技术通过分析相邻扩散时间步长的层输出相似性，实现自适应缓存和关键特征的重用，从而显著降低计算需求。实验表明，SmoothCache能够将推理速度提升8%至71%，同时保持或提升生成质量，适用于图像、视频、音频以及3D模型等多种模态，助力DiT模型在实时应用场景中的广泛应用。