TMAP 平台图生视频推理加速实践

摘要

TMAP平台针对图生视频模型落地痛点,通过多卡并行、Attention与线性层量化、以及自研DPCache缓存方案,在保证生成质量无损的前提下,实现4.87倍加速,将单次推理成本降至0.15元/秒以下。

欢迎在评论区写下你对这篇文章的看法。

评论

- 위키
Copyright © 2011-2026 iteam. Current version is 2.155.2. UTC+08:00, 2026-07-23 05:28
浙ICP备14020137号-1 $방문자$