Home Topic library logo Library Code Library Shop
More
类库 › LiteRT-LM
google-ai-edge

google-ai-edge/LiteRT-LM

LiteRT-LM是Google开源的高性能大语言模型推理框架，专为在边缘设备（如手机、IoT）上部署而设计。支持多种主流模型（如Gemma、Llama），并利用GPU/NPU加速。提供跨平台支持，功能包括多模态输入和工具调用。

4,245 420 4,245 190
在 GitHub 上查看
google-ai-edge/LiteRT-LM

截图

相关项目

tensorflow
tensorflow/tensorflow
TensorFlow是一个开源的机器学习框架，提供工具、库和社区资源，帮助研究人员和开发者构建和部署机器学习应用。
191.3k C++
godotengine
godotengine/godot
Godot是一个跨平台的2D和3D游戏引擎，提供丰富的工具，帮助用户便捷地创建和导出游戏。
100.5k C++
ggml-org
ggml-org/llama.cpp
llama.cpp是一个用于C/C++语言的LLM推理库，提供多种API接口，适合开发者进行语言模型推理和应用集成。
85.4k C++
nomic-ai
nomic-ai/gpt4all
GPT4All是一款开源软件，可以在任何设备上本地运行大型语言模型，用户无需API调用或GPU，方便快速启动和使用。
77k C++
tesseract-ocr
tesseract-ocr/tesseract
Tesseract是一个开源的OCR引擎，支持文本识别和处理，提供命令行工具，适用于多种文档及图像格式。
69k C++
protocolbuffers
protocolbuffers/protobuf
Protocol Buffers是Google开发的跨语言、跨平台的结构化数据序列化机制，主要用于数据交换。
68.9k C++

评论

Home - Wiki
Copyright © 2011-2026 iteam. Current version is 2.155.1. UTC+08:00, 2026-04-25 19:39
浙ICP备14020137号-1 $Map of visitor$