ホーム 話題 library logo ライブラリ 自分
詳細表示

LLM 推理加速：decode 阶段的 Attention 在 GPU 上的优化

摘要

RTP-LLM是阿里巴巴智能引擎团队开发的大模型推理加速引擎，作为一个高性能的大模型推理解决方案，它已被广泛应用于阿里内部。在这篇文章里，我们将基于RTP-LLM的实践，介绍decode阶段的Attention在GPU上是如何优化的。

阅读原文 922 海报分享
关联话题： #阿里巴巴

欢迎在评论区写下你对这篇文章的看法。

评论

ホーム - Wiki
Copyright © 2011-2025 iteam. Current version is 2.142.0. UTC+08:00, 2025-02-23 15:29
浙ICP备14020137号-1 $お客様$