推荐一款超高速、多特性的高性能序列推理引擎—— LightSeq

摘要

这应该是业界第一款完整支持 Transformer、GPT 等多种模型高速推理的开源引擎。

欢迎在评论区写下你对这篇文章的看法。

评论

- 위키
Copyright © 2011-2024 iteam. Current version is 2.137.1. UTC+08:00, 2024-11-09 04:47
浙ICP备14020137号-1 $방문자$