类库 › MagiCompiler
SandAI-org

SandAI-org/MagiCompiler

MagiCompiler是一个即插即用的编译器,专注于为大型模型的推理和训练提供免费优化。它通过跨层协同编译等技术,显著提升训练吞吐量并降低推理延迟,适用于高效的大模型部署场景。

SandAI-org/MagiCompiler

技术栈

查看全部依赖 (6)

依赖

cuda-python depyf graphviz pydantic-settings seaborn triton

截图

docs/assets/magi_compiler_overview.jpeg
docs/assets/h100_inference.png

评论

- 위키
Copyright © 2011-2026 iteam. Current version is 2.155.1. UTC+08:00, 2026-04-03 05:00
浙ICP备14020137号-1 $방문자$