推荐一款超高速、多特性的高性能序列推理引擎—— LightSeq

摘要

这应该是业界第一款完整支持 Transformer、GPT 等多种模型高速推理的开源引擎。

欢迎在评论区写下你对这篇文章的看法。

评论

Home - Wiki
Copyright © 2011-2024 iteam. Current version is 2.139.0. UTC+08:00, 2024-12-23 09:46
浙ICP备14020137号-1 $Map of visitor$