Home Topic library logo Library Code Library Shop
More
类库 › llama.cpp
ggml-org

ggml-org/llama.cpp

llama.cpp是一个用于C/C++语言的LLM推理库，提供多种API接口，适合开发者进行语言模型推理和应用集成。

85,426 12,806 85,426 840
在 GitHub 上查看

标签

ggml

相关项目

tensorflow
tensorflow/tensorflow
TensorFlow是一个开源的机器学习框架，提供工具、库和社区资源，帮助研究人员和开发者构建和部署机器学习应用。
191.3k C++
godotengine
godotengine/godot
Godot是一个跨平台的2D和3D游戏引擎，提供丰富的工具，帮助用户便捷地创建和导出游戏。
100.5k C++
nomic-ai
nomic-ai/gpt4all
GPT4All是一款开源软件，可以在任何设备上本地运行大型语言模型，用户无需API调用或GPU，方便快速启动和使用。
77k C++
tesseract-ocr
tesseract-ocr/tesseract
Tesseract是一个开源的OCR引擎，支持文本识别和处理，提供命令行工具，适用于多种文档及图像格式。
69k C++
protocolbuffers
protocolbuffers/protobuf
Protocol Buffers是Google开发的跨语言、跨平台的结构化数据序列化机制，主要用于数据交换。
68.9k C++
ggml-org
ggml-org/whisper.cpp
whisper.cpp 是 OpenAI Whisper 语音识别模型的 C/C++ 移植版本，专为高性能推理而设计。它支持 CPU 及多种硬件加速（如 Apple Metal、NVIDIA GPU、Vulkan 等），无需额外依赖，可在资源受限的设备上实现高效的语音转文本。
48.2k C++

评论

Home - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.1. UTC+08:00, 2026-04-04 03:41
浙ICP备14020137号-1 $Map of visitor$