类库 › mlx-serve
ddalcu

ddalcu/mlx-serve

mlx-serve是基于Zig开发的Apple Silicon原生LLM推理服务器,支持MLX和GGUF模型。提供OpenAI及Anthropic兼容API,无需Python或云端,可配合MLX Core macOS应用实现聊天、智能体等功能,专为Mac用户打造高效本地AI服务。

ddalcu/mlx-serve

截图

MLX Core

评论

inicio - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.2. UTC+08:00, 2026-08-28 13:05
浙ICP备14020137号-1 $mapa de visitantes$