类库 › SwiftLM
SharpAI

SharpAI/SwiftLM

SwiftLM是专为苹果芯片优化的原生Swift推理服务器,支持MLX模型并提供OpenAI兼容API。具有高性能推理、SSD流式处理大型模型、KV缓存压缩等功能,适用于macOS和iOS应用开发。

SharpAI/SwiftLM

截图

docs/demo.gif

评论

inicio - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.1. UTC+08:00, 2026-04-18 06:08
浙ICP备14020137号-1 $mapa de visitantes$