类库
› Rapid-MLX
raullenchai/Rapid-MLX
Rapid-MLX是专为苹果硅芯片(M1/M2/M3/M4)优化的本地AI推理引擎,速度极快(自称比Ollama快4.2倍)。它允许用户在Mac上离线运行大型语言模型,无需云端API费用。可作为OpenAI API的替代品,兼容Cursor、Claude Code等开发工具,支持工具调用、提示缓存和模型路由。
Rapid-MLX是专为苹果硅芯片(M1/M2/M3/M4)优化的本地AI推理引擎,速度极快(自称比Ollama快4.2倍)。它允许用户在Mac上离线运行大型语言模型,无需云端API费用。可作为OpenAI API的替代品,兼容Cursor、Claude Code等开发工具,支持工具调用、提示缓存和模型路由。