类库
› CoreML-LLM
john-rocky/CoreML-LLM
CoreML-LLM是一个开源库,专注于在苹果设备(如iPhone)上运行大型语言模型。它通过苹果的CoreML框架和神经网络引擎进行优化,支持文本、图像和音频多模态处理,旨在实现设备端、低功耗的AI推理,无需依赖服务器。
技术栈
conversion python
查看全部依赖 (8)
依赖
NumPy
coremltools
huggingface-hub
pyyaml
safetensors
scikit-learn
torch
transformers