类库 › recurrent-looped-tranformer
yifanzhang-pro

yifanzhang-pro/recurrent-looped-tranformer

该仓库是Recurrent Looped Transformer (RLT)的官方项目页,展示了一种新型Transformer架构。它通过在提示和响应token间传递解码器隐藏状态并结合滑动窗口注意力,实现高效的递归计算。主要用于学术研究,提供论文、代码及实验结果。

1,133 137 1,133
在 GitHub 上查看

评论

inicio - Wiki
Copyright © 2011-2026 iteam. Current version is 2.156.0. UTC+08:00, 2026-11-09 13:36
浙ICP备14020137号-1