类库
› MagiCompiler
SandAI-org/MagiCompiler
MagiCompiler是一个即插即用的编译器,专注于为大型模型的推理和训练提供免费优化。它通过跨层协同编译等技术,显著提升训练吞吐量并降低推理延迟,适用于高效的大模型部署场景。
技术栈
查看全部依赖 (6)
依赖
cuda-python
depyf
graphviz
pydantic-settings
seaborn
triton
截图