NVIDIA/FasterTransformer

FasterTransformer 是一个由 NVIDIA 提供的优化 Transformer 编解码组件，专为 BERT 和 GPT 等模型的推理性能提升而设计和维护。